6.4 日常总结

1.比例vs比率。比例是指在总体中各部分的数值占全部数值的比重,通常反映总体的构成和结构。比率是反映一个整体中各部分之间的关系。

2.同比是历史同时期进行比较得到的数值,该指标主要反映的是事物发展的相对情况;环比是指与前一个统计期比较得到的数值,该指标主要反映的是事物逐期发展的情况。

3.数据清洗工作。(1)重复数据的处理:函数(Excel中的COUNTIF)、高级筛选、条件格式(Excel 2010,“开始”、“条件格式”、“突出显示单元格规则”、“重复值”)、数据透视表。(2)缺失数据处理:定位输入(“开始”、“编辑”、“定位条件”)、用一个样本统计量代替缺失值、用一个统计模型算出来的值进行替换、将有缺失值记录删去、将有缺失值的记录值保留但在不相应分析中做必要排除。(3)检查数据逻辑错误:IF函数、条件格式标记错误。

4.数据抽取:字段分列、字段合并、字段匹配。

5.数据转换:行列互换(选择性粘贴),多选录入方式转换。

6.数据分析方法:对比分析法(与目标对比、不同时期对对比、同级部门单位地区对比、业内对比、活动效果对比);分组分析方法;结构分析法(分析总体内的各部分与总体之间进行对比的分析方法,即总体内各部分占总体的比例);平均分析法(运用计算平均数的方法来反映总体在一定时间、地点条件下某一数量特征的一般水平);交叉平均法(通常用于分析两个变量之间的关系)。
1.异常值就是远离集中趋势的值,异常值有可能是采集和处理数据过程中的错误导致的,也有可能是罕见的正确结果。

2.概率质量函数(ProbabilityMass Function,PMF):以函数的形式表示分布,该函数将值映射到概率。如果要处理的比较少,PMF很合适;但随着数据的增加,每个值的概率就会降低,而随机噪声的影响就会增大。

3.相对风险(relativerisk)两个概率的壁纸,通常用于衡量两个分布的差异。

4.贝叶斯事件。贝叶斯定理通常用于解释某一特定现象的证据E如何影响假设H的概率。

在看到E之后H的概率,等于看到该证据前H的概率,乘以假设H为真的情况下看到该证据的概率与在任何情况下看到该证据的概率的比值。为先验概率,而为后验概率,是证据的似然值,是归一化常量。

5.相关系数可以衡量两个变量之间线性相关的强度和正负,但是无法知道它们的斜率。有很多方法可以用来估计斜率,其中线性最小二乘拟合是最常用的一种方法。线性拟合指的是用一个线性的方程来拟合两个变量之间的关系。最小二乘法是使拟合函数与数据之间的均方误差达到最小的拟合方法。

  1. WHERE关键字在使用集合函数时不能使用,所以在集合函数中加上了HAVING来起到测试查询结果是否符合条件的作用.

  2. 当同时含有where子句、group by 子句 、having子句及聚集函数时,执行顺序如下:

–执行where子句查找符合条件的数据;

–使用group by子句对数据进行分组;对group by子句形成的组运行聚集函数计算每一组的值;最后用having子句去掉不符合条件的组。

–having 子句中的每一个元素也必须出现在select列表中。有些数据库例外,如oracle.

–having子句和where子句都可以用来设定限制条件以使查询结果满足一定的条件限制。

–having子句限制的是组,而不是行。

  1. innerjoin(等值连接) 只返回两个表中联结字段相等的行;left join(左联接) 返回包括左表中的所有记录和右表中联结字段相等的记录;rightjoin(右联接) 返回包括右表中的所有记录和左表中联结字段相等的记录。

  2. 什么是存储过程呢?存储过程就是作为可执行对象存放在数据库中的一个或多个SQL命令。 通俗来讲:存储过程其实就是能完成一定操作的一组SQL语句。

5.那为什么要用存储过程呢?存储过程只在创造时进行编译,以后每次执行存储过程都不需再重新编译,而一般SQL语句每执行一次就编译一次,所以使用存储过程可提高数据库执行速度。当对数据库进行复杂操作时,可将此复杂操作用存储过程封装起来与数据库提供的事务处理结合一起使用。存储过程可以重复使用,可减少数据库开发人员的工作量。安全性高,可设定只有某些用户才具有对指定存储过程的使用权。
1.视图的作用,视图可以更改么?

视图是虚拟的表,与包含数据的表不一样,视图只包含使用时动态检索数据的查询;不包含任何列或数据。使用视图可以简化复杂的sql操作,隐藏具体的细节,保护数据;视图创建后,可以使用与表相同的方式利用它们。
视图不能被索引,也不能有关联的触发器或默认值,如果视图本身内有order by 则对视图再次order by将被覆盖。
创建视图:create view XXX as XXXXXXXXXXXXXX;
对于某些视图比如未使用联结子查询分组聚集函数Distinct Union等,是可以对其更新的,对视图的更新将对基表进行更新;但是视图主要用于简化检索,保护数据,并不用于更新,而且大部分视图都不可以更新。

2.drop,delete与truncate的区别

drop直接删掉表 truncate删除表中数据,再插入时自增长id又从1开始 delete删除表中数据,可以加where字句。

(1) DELETE语句执行删除的过程是每次从表中删除一行,并且同时将该行的删除操作作为事务记录在日志中保存以便进行进行回滚操作。TRUNCATE TABLE 则一次性地从表中删除所有的数据并不把单独的删除操作记录记入日志保存,删除行是不能恢复的。并且在删除的过程中不会激活与表有关的删除触发器。执行速度快。

(2)表和索引所占空间。当表被TRUNCATE 后,这个表和索引所占用的空间会恢复到初始大小,而DELETE操作不会减少表或索引所占用的空间。drop语句将表所占用的空间全释放掉。

(3)一般而言,drop > truncate > delete

(4)应用范围。TRUNCATE 只能对TABLE;DELETE可以是table和view

(5) TRUNCATE 和DELETE只删除数据,而DROP则删除整个表(结构和数据)。

(6) truncate与不带where的delete :只删除数据,而不删除表的结构(定义)drop语句将删除表的结构被依赖的约束(constrain),触发器(trigger)索引(index);依赖于该表的存储过程/函数将被保留,但其状态会变为:invalid。

(7) delete语句为DML(data maintain Language),这个操作会被放到 rollback segment中,事务提交后才生效。如果有相应的 tigger,执行的时候将被触发。

(8) truncate、drop是DLL(data definelanguage),操作立即生效,原数据不放到 rollbacksegment中,不能回滚

(9)在没有备份情况下,谨慎使用 drop 与 truncate。要删除部分数据行采用delete且注意结合where来约束影响范围。回滚段要足够大。要删除表用drop;若想保留表而将表中数据删除,如果于事务无关,用truncate即可实现。如果和事务有关,或老师想触发trigger,还是用delete。

(10) Truncate table 表名速度快,而且效率高,因为:
truncate table 在功能上与不带 WHERE 子句的 DELETE 语句相同:二者均删除表中的全部行。但 TRUNCATE TABLE 比 DELETE 速度快,且使用的系统和事务日志资源少。DELETE 语句每次删除一行,并在事务日志中为所删除的每行记录一项。TRUNCATE TABLE 通过释放存储表数据所用的数据页来删除数据,并且只在事务日志中记录页的释放。

(11) TRUNCATE TABLE 删除表中的所有行,但表结构及其列、约束、索引等保持不变。新行标识所用的计数值重置为该列的种子。如果想保留标识计数值,请改用 DELETE。如果要删除表定义及其数据,请使用 DROP TABLE 语句。

(12)对于由 FOREIGN KEY 约束引用的表,不能使用 TRUNCATE TABLE,而应使用不带 WHERE 子句的 DELETE 语句。由于 TRUNCATE TABLE 不记录在日志中,所以它不能激活触发器。

3.索引的工作原理及其种类

数据库索引,是数据库管理系统中一个排序的数据结构,以协助快速查询、更新数据库表中数据。索引的实现通常使用B树及其变种B+树。

在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法。这种数据结构,就是索引。

为表设置索引要付出代价的:一是增加了数据库的存储空间,二是在插入和修改数据时要花费较多的时间(因为索引也要随之变动)。

创建索引可以大大提高系统的性能。

第一,通过创建唯一性索引,可以保证数据库表中每一行数据的唯一性。

第二,可以大大加快数据的检索速度,这也是创建索引的最主要的原因。

第三,可以加速表和表之间的连接,特别是在实现数据的参考完整性方面特别有意义。

第四,在使用分组和排序子句进行数据检索时,同样可以显著减少查询中分组和排序的时间。

第五,通过使用索引,可以在查询的过程中,使用优化隐藏器,提高系统的性能。

也许会有人要问:增加索引有如此多的优点,为什么不对表中的每一个列创建一个索引呢?因为,增加索引也有许多不利的方面。

第一,创建索引和维护索引要耗费时间,这种时间随着数据量的增加而增加。

第二,索引需要占物理空间,除了数据表占数据空间之外,每一个索引还要占一定的物理空间,如果要建立聚簇索引,那么需要的空间就会更大。

第三,当对表中的数据进行增加、删除和修改的时候,索引也要动态的维护,这样就降低了数据的维护速度。

索引是建立在数据库表中的某些列的上面。在创建索引的时候,应该考虑在哪些列上可以创建索引,在哪些列上不能创建索引。一般来说,应该在这些列上创建索引:在经常需要搜索的列上,可以加快搜索的速度;在作为主键的列上,强制该列的唯一性和组织表中数据的排列结构;在经常用在连接的列上,这些列主要是一些外键,可以加快连接的速度;在经常需要根据范围进行搜索的列上创建索引,因为索引已经排序,其指定的范围是连续的;在经常需要排序的列上创建索引,因为索引已经排序,这样查询可以利用索引的排序,加快排序查询时间;在经常使用在WHERE子句中的列上面创建索引,加快条件的判断速度。

同样,对于有些列不应该创建索引。一般来说,不应该创建索引的的这些列具有下列特点:

第一,对于那些在查询中很少使用或者参考的列不应该创建索引。这是因为,既然这些列很少使用到,因此有索引或者无索引,并不能提高查询速度。相反,由于增加了索引,反而降低了系统的维护速度和增大了空间需求。

第二,对于那些只有很少数据值的列也不应该增加索引。这是因为,由于这些列的取值很少,例如人事表的性别列,在查询的结果中,结果集的数据行占了表中数据行的很大比例,即需要在表中搜索的数据行的比例很大。增加索引,并不能明显加快检索速度。

第三,对于那些定义为text, image和bit数据类型的列不应该增加索引。这是因为,这些列的数据量要么相当大,要么取值很少。

第四,当修改性能远远大于检索性能时,不应该创建索引。这是因为,修改性能和检索性能是互相矛盾的。当增加索引时,会提高检索性能,但是会降低修改性能。当减少索引时,会提高修改性能,降低检索性能。因此,当修改性能远远大于检索性能时,不应该创建索引。

根据数据库的功能,可以在数据库设计器中创建三种索引:唯一索引、主键索引和聚集索引。
.异常值检测

原因:

(1)数据来源于不同的类:某个数据对象可能不同于其他数据对象(即异常),因为它术语一个不同的类型或类。Hawkins的离群点定义:离群点是一个观测值,它与其他观测值的差别如此之大,以至于怀疑它是由不同的机制产生的。

(2)自然变异:许多数据集可以用一个统计分布建模,如正态(高斯)分布建模,其中数据对象的概率随对象到分布中心距离的增加而急剧减少。换言之,大部分数据对象靠近中心(平均对象),数据对象显著地不同于这个平均对象的似然性很小。

(3)数据测量和收集误差:数据收集和测量过程中的误差是另一个异常源。剔除这类异常是数据预处理(尤其是数据清理)的关注点。

异常检测方法

(1)基于模型的技术:许多异常检测技术首先建立一个数据模型。异常是那些同模型不能完美拟合的对象。

(2)基于邻近度的技术:通常可以在对象之间定义邻近性度量,并且许多移仓检测方法都基于邻近度。异常对象是那些远离大部分其他对象的对象,这一邻域的许多技术都基于距离,称作基于距离的离群点检测技术。

(3)基于密度的技术:对象的密度估计可以相对直接地计算,特别是当对象之间存在邻近度度量时。地密度区域中的对象相对远离近邻,可能被看做异常。

2.推荐系统的评价指标

1.平均误差MAE(MeanAbsolute Error ):平均绝对误差 MAE是评价推荐 算法质量 的标准之一 ,它通过计算预测评分与真实评价数 据上的差别来衡量推荐结果的准确性。MAE的值越小 ,推荐准确性越高。假设预测的用户评分集合表示为{P1,P2,⋯PN},对应 的实际用户评分集合为 {q1,q2,⋯ ,qN} ,则具体的 MAE计算公式为

2.准确率与召回率(Precision& Recall)

准确率和召回率是广泛用于信息检索和统计学分类领域的两个度量值,用来评价结果的质量。其中精度是检索出相关文档数与检索出的文档总数的比率,衡量的是检索系统的查准率;召回率是指检索出的相关文档数和文档库中所有的相关文档数的比率,衡量的是检索系统的查全率。一般来说,Precision就是检索出来的条目(比如:文档、网页等)有多少是准确的,Recall就是所有准确的条目有多少被检索出来了。

正确率、召回率和 F1 值是在鱼龙混杂的环境中,选出目标的重要评价指标。不妨看看这些指标的定义先:

1. 正确率 = 提取出的正确信息条数 /  提取出的信息条数    
  1. 召回率 = 提取出的正确信息条数 / 样本中的信息条数

  2. F1值 = 正确率 * 召回率 * 2 / (正确率 + 召回率) (F 值即为正确率和召回率的调和平均值)。

3.综合评价指标(F-Measure)

P和R指标有时候会出现的矛盾的情况,这样就需要综合考虑他们,最常见的方法就是F-Measure(又称为F-Score)。F-Measure是Precision和Recall加权调和平均:

猜你喜欢

转载自blog.csdn.net/wuhuimin521/article/details/80569029
6.4