sparksql系列(九) spark多job提交,spark多目录处理

在生产环境中遇到了这种情况:spark程序需要处理输入是多个目录,输出也是多个目录。但是处理的逻辑都是相同的。 使用方法经历多次修改,最终成功完成任务。其中涉及到spark多job提交和spark多个目录同时处理,在此记录一下。 程序中所有异常处理,建议都在函数里面处理好,不要直接写一些处理代码。这样的话直接调用函数就行。 方法一:for直接上 典型的:减少使用资源,拉长运行时间 代码 递进程序 val sparkSession= SparkSession.builder().master("
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

选择排序之简单选择排序(Java)

选择排序之简单选择排序(Java) 博客说明 文章所涉及的资料来自互联网整理和个人总结,意在于个人学习和经验汇总,如有什么地方侵权,请联系本人删除,谢谢! 说明 选择排序(select sorting)也是一种简单的排序方法。它的基本思想是:第一次从arr[0]arr[n-1]中选取最小值,与arr[0]交换,第二次从arr[1]arr[n-1]中选取最小值,与arr[1]交换,第三次从arr[2]arr[n-1]中选取最小值,与arr[2]交换,…,第i次从arr[i-1]arr[n-1]中
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

计算几何——三角剖分 uva1331+poj3675

看了一整天三角剖分。。能找到的题只有求最大面积最小的三角剖分。。 然而这题除了用些三角剖分的性质外。。其实是个dp #include <bits/stdc++.h> using namespace std; const int INF = 1e9; const int maxn = 50 + 5; const double eps = 0.00001; int n, m; struct Point { int x, y; friend Point operator-(cons
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

亚马逊10亿收购自动驾驶初创公司Zoox,目的是什么?

亚马逊26日已经宣布将收购Zoox自动驾驶初创公司,目的是什么?原因是自动驾驶启动成立于2014年,亚马逊需要开发自主驾驶技术,包括车辆,为ride自动化测试提供一个全栈解决方案的目的欢呼。 根据亚马逊的公告,它将继续作为独立业务存在,现任首席执行官Aicha Evans以及CTO和联合创始人Jesse Levinson继续担任职务,他们的整体公司使命也将保持不变。 《华尔街日报》5月底曾报道说,亚马逊正在将Zoox视为潜在的收购目标,并且该交易已进入后期阶段。 Zoox选择了自动驾驶行业中最
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

CSS选择器个人整理带示例20200626

百度 CSS的选择器 1. 基本选择器 ID、类、标签选择器 <head> <meta http-equiv="content-Type" charset="UTF-8"> <meta http-equiv="x-ua-compatible" content="IE=edge"> <title>CSS基础选择器</title> <style> p { /*所有的p标签都变红*/ co
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

随笔测试 377479323

随笔测试
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

Java知识查漏补缺-01

本博客的相关学习视频来源为https://www.bilibili.com/video/BV1Jt411Q7qs,b站ID:黎曼的猜想 (侵删) java重载与重写 访问权限的等级:从大到小:public > protected (主要用于继承)> 包访问权限(无关键词) > private. classA中分别定义中了四个不同权限的属性和方法: 1、同一个包下的classB只有private私有变量和方法不能调用 2、同一个包下的classC继承了classA,也是只有private私有变量
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

day04 跳转

一、事件跳转 1、标签绑定click事件 <view bindtap="clickme" data-nid="123" data-name="李义">点我跳转</view> 2、在页面的js中写事件(注意在pages列表中写) clickme:function(e){ console.log(e); var nid = e.currentTarget.dataset.nid console.log(nid); //跳转,还可以传参数 wx.redirec
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

MySQL笔记-锁

查看表上加过的锁 SHOW OPEN TABLES 手动增加表锁 LOCK TABLE actor read,address write # actor表添加读锁,address添加写锁 手动解锁: UNLOCK TABLES 查看MySQL事务默认隔离级别: SHOW VARIABLES LIKE 'tx_isolation' tx_isolation REPEATABLE-READ    # 可重复读
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

不常用的命令安装与升级

yum install python-pip 安装pip pip --version 查看版本 升级 pip install --upgrade pip
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

题解P2261

原题传送门 最重要的事:long long!!!!!! 首先,题目要求的是\(res=\sum\limits_{i=1}^{n}k\%i\) 可以把\(k\%i\)转化为\(k-i\times\left\lfloor\dfrac{k}{i}\right\rfloor\) 证明:\(\left\lfloor\dfrac{k}{i}\right\rfloor\)是向下取整,所以将小数点部分都去掉,去掉\(\dfrac{k\%i}{i}\)的值 所以\(\left\lfloor\dfrac{k}{i
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

axios 中文文档(转载)

axios 中文文档【译】 axios 目录 axios 正文 原文 特色 浏览器支持 安装 示例 axios API 请求方法的别名。 注意 并发 Concurrency 创建一个实例(instance) 实例方法 Requeset Config请求设置 返回响应概要 Response Schema 默认设置(Config Default) 全局默认设置 Global axios defaults 实例中自定义默认值 Custom instance default 设置优先级 Config
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

Linux如何将大写锁定Caps Lock改为ESC——Vim必备

由于使用Vim时常用ESC键,因此需要将Caps Lock改为ESC以方便操作,尝试过几种方法,最终确定了最有效的。 第一种:在.vimrc中做xmodmap,每次进入vim时做映射,退出vim时复位映射,但这种方式会收到输入法的影响,有时需要重启vim才能生效 第二种:用dconf-editor,电脑重启后失效 第三种:用xmodmap重映射,具体方法为: 新建文件.xmodmap,写入如下几行,保存退出: remove Lock = Caps_Lock keycode 9 = Caps_L
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

Kubernetes:故障排查(Trouble Shooting)方法总结

blog:https://www.cnblogs.com/Rohn/ 本文部分内容源自网络,侵删。 概述 为了跟踪和发现在Kubernetes集群中运行的容器应用出现的问题,我们常用如下排查方法: 查看Kubernetes对象的当前运行时信息,特别是与对象关联的Event事件。这些事件记录了相关主题、发生时间、最近发生时间、发生次数及事件原因等,对排查故障非常有价值。此外,通过查看对象的运行时数据,我们还可以发现参数错误、关联错误、状态异常等明显问题。由于在Kubernetes中多种对象相互关
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

Codeforces Round #652 (Div. 2) 题解

A. FashionabLEE 网址:https://codeforces.com/problemset/problem/1369/A Lee is going to fashionably decorate his house for a party, using some regular convex polygons... Lee thinks a regular n-sided (convex) polygon is beautiful if and only if he can ro
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

【Python】面向对象:类与继承简单示例

Python 面向对象 Python 是一门面向对象的设计语言,与此对应的就是面向过程编程与函数式编程 面向对象的一个优点就是更好的增强代码的重用性。 面向过程编程可以简单的理解为:重点在步骤,将一个任务完成所需要的所有步骤罗列出来 面向对象则可以理解为:重点在对象,打个比方的话就是在人,完成一项任务需要哪些人,这些人再去负责做具体的事情,将所有人组合在一起就完成了这个任务。 我们通过封装步骤为方法,封装方法为对象,来执行任务。真实世界中的事物从来都不是单独的,每个事物都有自己的类别,而函数是
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

大数据之Hbase的API操作

package com.bw; import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.hbase.*; import org.apache.hadoop.hbase.client.*; import org.apache.hadoop.hbase.filter.CompareFilter; import org.apache.hadoop.hbase.filter.SingleColumnValueFilte
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

thinkphp5单条批量添加数据和过滤非数据表字段

如果需要过滤非数据表字段的数据,可以使用: $user=new User($_POST); //过滤post数组中的非数据表字段数据 $user->allowField(true)->save(); 如果你通过外部提交赋值给模型,并且希望指定某些字段写入,可以使用: $user=new User($_POST); //post数组中只有name和email字段会写入 $user->allowField(['name','email'])->save(); create方法:给create方法传
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

百度搜索使用技巧

百度搜索使用技巧 排除关键词 (减号+关键词) 比如说:搜锤子而不是锤子手机。 即为:锤子 -锤子手机 精确搜索(给关键词加引号) 比如说:想搜小苹果,而不想是苹果。 即为“小苹果” 指定网站内搜索(site:域名 关键词) 这个方法用于一些搜索引擎特别垃圾的资料网站 比如说中国裁判文书网。 比如说在知乎里搜关于小苹果的内容。 即为:site:zhihu.com 小苹果 或者 site:zhihu.com 苹果 指定文件格式(包括doc,ppt,avi(avi不支持)等格式) (filetyp
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0

树莓派4B安装libbluetooth-dev报错解决

直接apt-get安装libbluetooth-dev时发生依赖错误: pi@raspberrypi:~ $ sudo apt-get install libbluetooth-dev Reading package lists... Done Building dependency tree Reading state information... Done Some packages could not be installed. This may mean that you have r
分类: 其他 发布时间: 06-26 22:41 阅读次数: 0