[大数据] Scala 速学手册1

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/u014679456/article/details/83338949

Scala 基础介绍

1 Scala

1.1 什么是Scala

Scala是一种多范式的编程语言，其设计的初衷是要集成面向对象编程和函数式编程的各种特性。Scala运行于Java平台（Java虚拟机），并兼容现有的Java程序。

1.2为什么要学Scala

1. 优雅
2. 速度快：开发速度快；静态编译，运行速度快
3. 学习大数据组件

2 Scala基础

2.1 声明变量

object VariableDemo {
  def main(args: Array[String]) {
    //使用val定义的变量值是不可变的，相当于java里用final修饰的变量
    val i = 1
    //使用var定义的变量是可变得，在Scala中鼓励使用val
    var s = "hello"
    //Scala编译器会自动推断变量的类型，必要的时候可以指定类型
    //变量名在前，类型在后
    val str: String = "scala"
  }
}

2.2 常用类型

有7种数值类型Byte、Char、Short、Int、Long、Float和Double（无包装类型）和一个Boolean类型

2.3 条件表达式

object ConditionDemo {
  def main(args: Array[String]) {
    val x = 1
    //判断x的值，将结果赋给y
    val y = if (x > 0) 1 else -1
    //打印y的值
    println(y)

    //支持混合类型表达式
    val z = if (x > 1) 1 else "error"
    //打印z的值
    println(z)

    //如果缺失else，相当于if (x > 2) 1 else ()
    val m = if (x > 2) 1
    println(m)

    //在scala中每个表达式都有值，scala中有个Unit类，写做(),相当于Java中的void
    val n = if (x > 2) 1 else ()
    println(n)

    //if和else if
    val k = if (x < 0) 0
    else if (x >= 1) 1 else -1
    println(k)
  }
}

2.4 块表达式

object BlockExpressionDemo {
  def main(args: Array[String]) {
    val x = 0
    //在scala中{}中课包含一系列表达式，块中最后一个表达式的值就是块的值
    //下面就是一个块表达式
    val result = {
      if (x < 0){
        -1
      } else if(x >= 1) {
        1
      } else {
        "error"
      }
    }
    //result的值就是块表达式的结果
    println(result)
  }
}

2.5 循环语法

有for 和while 两种用法 for循环常用 。
for循环语法结构：for (i <- 表达式/数组/集合)

object ForDemo {
  def main(args: Array[String]) {
    //for(i <- 表达式),表达式1 to 10返回一个Range（区间）
    //每次循环将区间中的一个值赋给i
    for (i <- 1 to 10)
      println(i)

    //for(i <- 数组)
    val arr = Array("a", "b", "c")
    for (i <- arr)
      println(i)

    //高级for循环
    //每个生成器都可以带一个条件，注意：if前面没有分号
    for(i <- 1 to 3; j <- 1 to 3 if i != j)
      print((10 * i + j) + " ")
    println()

    //for推导式：如果for循环的循环体以yield开始，则该循环会构建出一个集合
    //每次迭代生成集合中的一个值
    val v = for (i <- 1 to 10) yield i * 10
    println(v)

  }

}

2.6 调用方法和函数

Scala中的+ - * / %等操作符的作用与Java一样，位操作符 & | ^ >> <<也一样。只是有一点特别的：这些操作符实际上是方法。例如：

a + b

是如下方法调用的简写：

a.+(b)

a 方法 b可以写成 a.方法(b)

2.7 定义方法和函数

2.7.1 定义方法

方法的返回值类型可以不写，编译器可以自动推断出来，但是对于递归函数，必须指定返回类型

scala> def m1(x:Int, y: Int) : Int = x * y

2.7.2 定义函数

scala> val fun1 = (x: Int, y :Int) => x + y

2.7.3 函数和方法的区别

在函数式编程语言中，函数是“头等公民”，它可以像任何其他数据类型一样被传递和操作
案例： 定义一个方法 ，然后传递一个函数

object MethodAndFunctionDemo {
  //定义一个方法
  //方法m2参数要求是一个函数，函数的参数必须是两个Int类型
  //返回值类型也是Int类型
  def m1(f: (Int, Int) => Int) : Int = {
    f(2, 6)
  }

  //定义一个函数f1，参数是两个Int类型，返回值是一个Int类型
  val f1 = (x: Int, y: Int) => x + y
  //再定义一个函数f2
  val f2 = (m: Int, n: Int) => m * n

  //main方法
  def main(args: Array[String]) {

    //调用m1方法，并传入f1函数
    val r1 = m1(f1)
    println(r1)

    //调用m1方法，并传入f2函数
    val r2 = m1(f2)
    println(r2)
  }
}

2.7.4 方法转换成函数(神奇的下划线)

scala> def m1 (x: Int, y: Int) : Int = x * y
scala> val f1 = m1 _

3 数组·映射·元组·集合

3.1 数组

1.定长和变长数组

object ArrayDemo {

  def main(args: Array[String]) {

    //初始化一个长度为8的定长数组，其所有元素均为0
    val arr1 = new Array[Int](8)
    //直接打印定长数组，内容为数组的hashcode值
    println(arr1)
    //将数组转换成数组缓冲，就可以看到原数组中的内容了
    //toBuffer会将数组转换长数组缓冲
    println(arr1.toBuffer)

    //注意：如果new，相当于调用了数组的apply方法，直接为数组赋值
    //初始化一个长度为1的定长数组
    val arr2 = Array[Int](10)
    println(arr2.toBuffer)

    //定义一个长度为3的定长数组
    val arr3 = Array("hadoop", "storm", "spark")
    //使用()来访问元素
    println(arr3(2))

    //////////////////////////////////////////////////
    //变长数组（数组缓冲）
    //如果想使用数组缓冲，需要导入import scala.collection.mutable.ArrayBuffer包
    val ab = ArrayBuffer[Int]()
    //向数组缓冲的尾部追加一个元素
    //+=尾部追加元素
    ab += 1
    //追加多个元素
    ab += (2, 3, 4, 5)
    //追加一个数组++=
    ab ++= Array(6, 7)
    //追加一个数组缓冲
    ab ++= ArrayBuffer(8,9)
    //打印数组缓冲ab

    //在数组某个位置插入元素用insert
    ab.insert(0, -1, 0)
    //删除数组某个位置的元素用remove
    ab.remove(8, 2)
    println(ab)

  }
}

2.遍历数组
a)增强for循环

b)好用的until会生成脚标，0 until 10 包含0不包含10

object ForArrayDemo {

  def main(args: Array[String]) {
    //初始化一个数组
    val arr = Array(1,2,3,4,5,6,7,8)
    //增强for循环
    for(i <- arr)
      println(i)

    //好用的until会生成一个Range
    //reverse是将前面生成的Range反转
    for(i <- (0 until arr.length).reverse)
      println(arr(i))
  }
}

3.数组转换

yield关键字将原始的数组进行转换会产生一个新的数组，原始的数组不变

#定义一个数组
scala> val arr = Array(1,2,3,4,5,6)

#用yield生产新的数组
scala> val res = for(e <- arr) yield e * 2

# map函数更加好用
scala> arr.map(_ * 2)

object ArrayYieldDemo {
  def main(args: Array[String]) {
    //定义一个数组
    val arr = Array(1, 2, 3, 4, 5, 6, 7, 8, 9)
    //将偶数取出乘以10后再生成一个新的数组
    val res = for (e <- arr if e % 2 == 0) yield e * 10
    println(res.toBuffer)

    //更高级的写法,用着更爽
    //filter是过滤，接收一个返回值为boolean的函数
    //map相当于将数组中的每一个元素取出来，应用传进去的函数
    val r = arr.filter(_ % 2 == 0).map(_ * 10)
    println(r.toBuffer)

  }
}

4. 数组常用方法
在Scala中，数组上的某些方法对数组进行相应的操作非常方便

scala> val arr = Array(2,5,1,4,3)

#求和
scala> arr.sum

#最大值
scala> arr.max

#排序
scala> arr.sorted

3.2 映射

在Scala中把哈希表这种数据结构叫做映射

1.构建映射

#第一种构建方式 用箭头
scala> val scores = Map("tom" ->85,"jerry"->99)

#第二种构建方式 用元组
scala>cal scores = Map(("tom,85),("jerry",99))

2.获取和修改映射中的值

#获取值
scala> scores("jerry")

#好用的getOrElse
#如果映射有值，返回映射的值，否则返回默认值
scala> scores.getOrElse("suke",0)

注意：在Scala中，有两种Map，一个是immutable包下的Map，该Map中的内容不可变；另一个是mutable包下的Map，该Map中的内容可变

#导入mutable包
scala> import scala.collection.mutable.Map

#val 定义的变量意味着变量的引用不变，但是Map的内容可变
scala> val scores =Map("tom" -> 80)

#修改Map中的内容
scala>scores("tom") = 88

#用+= 向原来的Map中追加元素
scala> scores += ("kitty” -> 99)

注意：通常我们在创建一个集合是会用val这个关键字修饰一个变量（相当于java中的final），那么就意味着该变量的引用不可变，该引用中的内容是不是可变，取决于这个引用指向的集合的类型

3.3 元组

1.创建元组

#定于元组时用小括号将多个元组包起来，元素之间用逗号分开，元素的类型可以不一样，元素的个数可以任意多个
scala> val t = ("hadoop,3.14,15926)

2.获取元素中的值

#同时赋值
scala> val t,(a,b,c) = ("hadoop",3.14,15926)

#获取元组中的元素可以使用下划线加脚标，但是注意元组中的元素的脚标是从1开始的
scala> val r1 = t._1
scala> val r2 = t._2

3.将对偶的集合转换成映射

scala> val arr = Array(("tom",88))

#toMap可以将对偶转换成映射
scala> arr.toMap

4拉链操作

scala>val scores = Array(88,95,80)
scala>val name = Array("tom","jerry","kitty")

#使用zip将多个值绑定在一起
scala> ns = name.zip(scores)

注意：如果两个数组的元素个数不一致，拉链操作后生成的数组的长度为较小的那个数组的元素个数

3.4 集合-List

Scala的集合有三大类：序列Seq、集Set、映射Map，所有的集合都扩展自Iterable特质在Scala中集合有可变（mutable）和不可变（immutable）两种类型，immutable类型的集合初始化后就不能改变了（注意与val修饰的变量进行区别）

1不可变序列

不可变的序列 import scala.collection.immutable._
在Scala中列表要么为空（Nil表示空列表）要么是一个head元素加上一个tail列表。

9 :: List(5, 2) :: 操作符是将给定的头和尾创建一个新的列表

注意：:: 操作符是右结合的，如9 :: 5 :: 2 :: Nil相当于 9 :: (5 :: (2 :: Nil))

object ImmutListDemo {

  def main(args: Array[String]) {
    //创建一个不可变的集合
    val lst1 = List(1,2,3)
    //将0插入到lst1的前面生成一个新的List
    val lst2 = 0 :: lst1
    val lst3 = lst1.::(0)
    val lst4 = 0 +: lst1
    val lst5 = lst1.+:(0)

    //将一个元素添加到lst1的后面产生一个新的集合
    val lst6 = lst1 :+ 3

    val lst0 = List(4,5,6)
    //将2个list合并成一个新的List
    val lst7 = lst1 ++ lst0
    //将lst1插入到lst0前面生成一个新的集合
    val lst8 = lst1 ++: lst0

    //将lst0插入到lst1前面生成一个新的集合
    val lst9 = lst1.:::(lst0)

    println(lst9)
  }
}

2可变的序列 import scala.collection.mutable._

import scala.collection.mutable.ListBuffer

object MutListDemo extends App{
  //构建一个可变列表，初始有3个元素1,2,3
  val lst0 = ListBuffer[Int](1,2,3)
  //创建一个空的可变列表
  val lst1 = new ListBuffer[Int]
  //向lst1中追加元素，注意：没有生成新的集合
  lst1 += 4
  lst1.append(5)

  //将lst1中的元素最近到lst0中， 注意：没有生成新的集合
  lst0 ++= lst1

  //将lst0和lst1合并成一个新的ListBuffer 注意：生成了一个集合
  val lst2= lst0 ++ lst1

  //将元素追加到lst0的后面生成一个新的集合
  val lst3 = lst0 :+ 5
}

3.5 集合-Set

1不可变Set

import scala.collection.immutable.HashSet

object ImmutSetDemo extends App{
  val set1 = new HashSet[Int]()
  //将元素和set1合并生成一个新的set，原有set不变
  val set2 = set1 + 4
  //set中元素不能重复
  val set3 = set1 ++ Set(5, 6, 7)
  val set0 = Set(1,3,4) ++ set1
  println(set0.getClass)
}

2可变Set

import scala.collection.mutable

object MutSetDemo extends App{
  //创建一个可变的HashSet
  val set1 = new mutable.HashSet[Int]()
  //向HashSet中添加元素
  set1 += 2
  //add等价于+=
  set1.add(4)
  set1 ++= Set(1,3,5)
  println(set1)
  //删除一个元素
  set1 -= 5
  set1.remove(2)
  println(set1)
}

3.6 集合-Map

import scala.collection.mutable

object MutMapDemo extends App{
  val map1 = new mutable.HashMap[String, Int]()
  //向map中添加数据
  map1("spark") = 1
  map1 += (("hadoop", 2))
  map1.put("storm", 3)
  println(map1)

  //从map中移除元素
  map1 -= "spark"
  map1.remove("hadoop")
  println(map1)
}

实践

用scala实现单机版本的wordcount程序

scala> val lines = List("hello world","hello scala")

#List[String] = List(hello, world, hello, scala)
scala >val words = lines.flatMap(_.split" ")

#res: List[(String, Int)] = List((hello,1), (world,1), (hello,1), (scala,1))
scala>val wordAndOne = words.map((_,1))

#scala.collection.immutable.Map[String,List[(String, Int)]] = Map(scala -> List((scala,1)), world -> List((world,1)), hello -> List((hello,1), (hello,1)))
scala> val group = wordAndOne.groupBy(_._1)

#scala.collection.immutable.Map[String,List[(String, Int)]] = Map(scala -> List((scala,1)), world -> List((world,1)), hello -> List((hello,1), (hello,1)))
#第一种方法  使用mapValues方法
scala>val res = group.mapValues(_.size)

#第二种方法  在mapValues中使用fold 函数
scala> val res = group.mapValues(_.fold(0)(_+_._2))

#第三种方法   使用map方法
scala>val res = group.map(t => (t._1,t._2.size))

scala> val lines = List("hello world","hello scala")

#第一种方法
scala> val res = lines.flatMap(_.split(" ")).map((_,1)).groupBy(_._1).mapValues(_.size)

#第二种方法
scala> val res = lines.flatMap(_.split(" ")).map((_,1)).groupBy(_._1).mapValues(_.fold(0)(_+_._2))

#第三种方法
scala> val res = val res = lines.flatMap(_.split(" ")).map((_,1)).groupBy(_._1).map(t => (t._1,t._2.size))