Spark SQL(8)-Spark sql聚合操作(Aggregation)

Spark SQL(8)-Spark sql聚合操作(Aggregation) 之前简单总结了spark从sql到物理计划的整个流程,接下来就总结下Spark SQL中关于聚合的操作。 聚合操作的物理计划生成 首先从一条sql开始吧 SELECT NAME,COUNT(*) FRON PEOPLE GROUP BY NAME   这条sql的经过antlr4解析后的树结构如下: 在解析出来的树结构中可以看出来,在querySpecification下面多了aggregation子节点。这次我
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

pytest(十)--命令行传参

前言 命令行参数是根据命令行选项将不同的值传递给测试函数,比如平常在cmd执行"pytest --html=report.html",这里面的"--html=report.html"就是从命令行传入的参数。对应的参数名称是html,参数值是report.html. conftest配置参数 1.首先需要在conftest.py添加命令行选项,命令行传入参数"--cmdopt",用例如果需要到从命令行传入的参数,就调用cmdopt函数: #conftest.py import pytest de
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

菜鸟笔记:es6学习笔记

es6新特性 作为一名新上路的后端开发,有一段时间对小程序产生了兴趣,在学习微信小程序时发现一个问题,好多js语法我都不认识,我产生了疑惑,这些简单的js语法不是都学习过吗,作为菜鸟处理问题的最好的办法就是找万能百度,然后了解到自2015年出现es6语法,现在前端好多框架基本上都是用的es6的语法,例如vue、uni-app等,所以发现有必要把es6学习一下。 1、变量的声明 1、let变量不能重复声明,var可以重复声明 2、let创建局部变量
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

毕业设计每日博客--第四周3

今天看了看知网的爬虫,发现并没有那么容易。
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

星巴克咖啡杯svg特效

结构代码 <body> <div class="container"> <div class="cup"> <svg class="logo" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:cc="http://creativecommons.org/ns#" xmlns:rdf="http://www.w3.org/1999/02/22-rdf-syntax-
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

Git 客户端报错:ssh: connect to host github.com port 22: Connection timed out fatal: Could not read from remote repository.

在使用 Git 客户端 clone GitHub上的项目时,报错: ssh: connect to host github.com port 22: Connection timed out fatal: Could not read from remote repository. 这个是使用 “SSH的地址”clone会出现这个问题,如果是“HTTP的地址”就不会,就可以顺利clone到本地。 【解决办法】
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

P 4315 月下毛景树

题目描述 毛毛虫经过及时的变形,最终逃过的一劫,离开了菜妈的菜园。 毛毛虫经过千山万水,历尽千辛万苦,最后来到了小小的绍兴一中的校园里。 爬啊爬~爬啊爬毛毛虫爬到了一颗小小的“毛景树”下面,发现树上长着他最爱吃的毛毛果~ “毛景树”上有N个节点和N-1条树枝,但节点上是没有毛毛果的,毛毛果都是长在树枝上的。但是这棵“毛景树”有着神奇的魔力,他能改变树枝上毛毛果的个数: Change k w:将第k条树枝上毛毛果的个数改变为w个。 Cover u v w:将节点u与节点v之间的树枝上毛毛果的个
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

HDU 6761 Minimum Index(Lyndon+前缀的最小后缀)

题意:求字符串的每个前缀的最小后缀。 题解:最小的后缀一定是最后一个Lyndon串,Lyndon分解。 #include <bits/stdc++.h> #define IO_read ios::sync_with_stdio(false);cin.tie(0) #define fre freopen("in.txt", "r", stdin) #define _for(i,a,b) for(int i=a; i< b; i++) #define _rep(i,a,b) for(int i=a
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

c#入门 OOP技术

对象的一些特性 接口 继承 多态性 对象之间的关系 运算符重载 事件 引用类型和值类型 接口: 接口是吧公共实例(非静态)方法和属性组合起来,以封装特定功能的一个集合。一旦指定了接口就可以在类中实现它。类就可以支持接口所指定的所有属性成员。 接口不能单独存在 接口的命名 :一般以大写字母I开头 定义接口 关键字: interface interface IPhone//用interface关键字 { void Dial();//public可省略 voi
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

混沌测试平台 Chaos Mesh

混沌测试平台 Chaos Mesh Chaos Mesh 是PingCap团队研发的一款用于测试kubernetes环境的工具。通过人为地在集群中注入故障来检测集群对故障的处理以及恢复能力。更详细信息可以查看这篇文章。混沌测试与针对某个应用测试的区别为:前者更倾向于在现有大规模集群中进行测试,影响因素可能来自集群中的方方面面;而后者更专注于对应用本身功能的测试。 GitHub上目前有两款star数高的混沌项目,litmus和chaos-mesh,这两款的功能和场景都基本类似,前者目前提供的混沌
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

idea日常使用配置

idea日常使用配置 properties配置文件默认为GBK编码,多人编写时会中文乱码,配置方法如下: 多文件替换 1、通过快捷键Ctrl+Shift+R打开窗口bai,或者通过点击Edit–>Find–>Replace in path打开窗口。du比搜索zhi窗口多了填写替换内容的输入框,如下图: 2、输入之后,点击右下角Replace in Find Window开始替换操作。如果要替换的文件非常多,会提示是否继续、替换哪些文件等确认框,按需选择即可。
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

2020牛客暑期多校训练营(第六场)K题K-Bag(思维)

2020牛客暑期多校训练营(第六场)K题K-Bag(思维) K-Bag 题意:求一个字符串是不是任意个1到k的排列的组合的子串,即首尾不需要1到k全都有,中间任意端都要有。 题解:很明显任意两个相同的数字不在一个排列中,我们可以利用这一特点求出每个位置第一个不合法的位置(不能在一个排列)在哪,然后枚举第一段的以何位置截止,求之后中间端长度是否刚好为k既可,如果能走到最后,说明为part-K-Bag。 #include<iostream> #include<cstring> #include<a
分类: 其他 发布时间: 07-29 21:18 阅读次数: 0

KiBiEx打造放心、信任、稳定、安全的合约交易平台什么是易货币?

KiBiEx是一家全球领先的加密货币交易所,并获得FinCEN(美國財政部下設機構金融犯罪執法局)颁发的MSB合约期货金融牌照。总部位于新加坡,并在亚太、欧美、中东等多地设有办事处。在全球拥有专业的金融人才和专业的IT人才。员工总数超过200人。平台提供多种货币,提供法币场外交易、币币交易、合约交易等多种业务类型。KiBiEx核心团队由来自计算机、信息安全、通讯、数学、金融、web开发和高频算法交
分类: 其他 发布时间: 07-29 21:11 阅读次数: 0

Centos7 DELL SAS6i 磁盘监控部署

默认安装方式:wget-q-O-http://linux.dell.com/repo/hardware/latest/bootstrap.cgi|bashyum-yinstallsrvadmin-allcp/opt/dell/srvadmin/sbin/omreport/usr/bin/opt/dell/srvadmin/sbin/srvadmin-services.shstart一般旧的型号,如
分类: 企业开发 发布时间: 07-29 21:11 阅读次数: 0

HBase高性能查询揭秘

开发;HBase;
分类: 企业开发 发布时间: 07-29 21:11 阅读次数: 0

Springboot访问不了static文件夹的静态资源,配置拦截器出现“No mapping for GET“静态资源的情况

可以在自己的MvcConfig下添加如下代码 private static final String[] CLASSPATH_RESOURCE_LOCATIONS = { "classpath:/META-INF/resources/", "classpath:/resources/", "classpath:/static/", "classpath:/public/" }; @Override public void
分类: 其他 发布时间: 07-29 21:01 阅读次数: 0

2020.7.29第二十三天

1111111111111111
分类: 其他 发布时间: 07-29 21:01 阅读次数: 0

高阶NumPy知识图谱-《利用Python进行数据分析》

所有内容整理自《利用Python进行数据分析》,使用MindMaster Pro 7.3制作,emmx格式,源文件已经上传Github,需要的同学转左上角自行下载或者右击保存图片。 其他章节知识图谱《利用Python进行数据分析》自学知识图谱-导航
分类: 其他 发布时间: 07-29 21:01 阅读次数: 0

LeetCode LCP 13. 寻宝 | Python

LCP 13. 寻宝 题目来源:力扣(LeetCode)https://leetcode-cn.com/problems/xun-bao 题目 我们得到了一副藏宝图,藏宝图显示,在一个迷宫中存在着未被世人发现的宝藏。 迷宫是一个二维矩阵,用一个字符串数组表示。它标识了唯一的入口(用 'S' 表示),和唯一的宝藏地点(用 'T' 表示)。但是,宝藏被一些隐蔽的机关保护了起来。在地图上有若干个机关点(用 'M' 表示),只有所有机关均被触发,才可以拿到宝藏。 要保持机关的触发,需要把一个重石放在上
分类: 其他 发布时间: 07-29 21:01 阅读次数: 0

Jenkins与版本管理系统gitlab对接

提交流水线 当Gitlab中触发push操作,则触发相对应的Jenkins流水线构建。实现快速反馈与验证。 方式1: 使用Gitlab CI,当有push请求,在CI脚本中远程触发Jenkins项目构建。 需要准备Gitlab runner 编写触发Jenkins脚 方式2: 使用Gitlab WebHook,当有push请求,直接触发jenkins项目构建。【采用】 需要配置Gitlab webHook 需要配置Jenkins项目Hook 推荐使用Generic Webhook Trigge
分类: 其他 发布时间: 07-29 21:01 阅读次数: 0