获得徽章 26
人间美好搬运工
#每天一个知识点# 克隆是指创建一个与原始对象相同的新对象。克隆可以分为深克隆和浅克隆两种。它们的区别在于克隆出来的新对象是否与原始对象共享引用类型的属性。
评论
#每天一个知识点# SQL 注入即是指应用程序对用户输入数据的合法性没有判断或过滤不严,攻击者可以在应用程序中事先定义好的查询语句的结尾上添加额外的 SQL 语句,在管理员不知情的情况下实现非法操作,以此来实现欺骗数据库服务器执行非授权的任意查询,从而进一步得到相应的数据信息。
评论
#每天一个知识点# 为什么单例一定要加volatile:使用 volatile 可以解决内存可见性问题和防止指令重排序,我们在单例模式中使用 volatile 主要是使用 volatile 的后一个特性(防止指令重排序),从而避免多线程执行的情况下,因为指令重排序而导致某些线程得到一个未被完全实例化的对象,从而导致程序执行出错的情况。
展开
评论
#每天一个知识点# JVM 调用方法是通过方法签名来判断到底要调用哪个方法的,而方法签名 = 方法名称 + 参数类型 + 参数个数组成的一个唯一值,这个唯一值就是方法签名。所以这就能解释返回值类型不同的方法为什么不能算重载。
评论
#每天一个知识点# 使用spark on yarn或者flink on yarn时,经常会使用到yarn application的各种命令,比如:1、yarn application -list //列出正在执行的所有任务
2、yarn application -kill applicationId //kill正在执行的任务
3、yarn application -list | grep dwd //列出正在执行任务名中带有dwd的任务
4、yarn application -list | grep dwd | awk '{print $1}' //过滤出applicationId
5、yarn application -list | grep dwd | awk '{print $1}' | xargs yarn application -kill //根据applicationId批量kill任务,这里会用到xargs命令:xargs 是一个强有力的命令,它能够捕获一个命令的输出,然后传递给另外一个命令
展开
评论
就连人中龙凤都有未遂心愿,你我平平之辈,何必纠结。
1
#每天一个知识点# conda 使用相关命令:
1、conda info //查看信息 ;
2、conda create -n score python=3.9 //创建指定版本的环境 ;
3、conda activate score //切换环境 ;
4、conda env list //查看环境列表 ;
5、pip install -i pypi.tuna.tsinghua.edu.cn 库名 //库安装命令;
6、conda deactivate //退出当前环境 ;
7、conda remove --name [虚拟环境的名称] --all // 删除指定名称的虚拟环境;
8、conda env export --name [虚拟环境的名称] > environment.yaml //保存环境;
9、conda env create --name [新环境的名称] --file environment.yaml //恢复环境;
10、conda create --name [新虚拟环境的名称] --clone [原虚拟环境的名称] //重命名环境
展开
评论
#每天一个知识点# spark提交任务到yarn上的命令:spark-submit --class <主类> \
--master yarn \
--deploy-mode <部署模式> \
--num-executors <执行器数量> \
--executor-memory <执行器内存> \
--executor-cores <执行器核心数> \
--driver-memory <Driver内存> \
--conf <配置参数> \
<应用程序JAR> <应用程序参数>
展开
5
#每天一个知识点# Hive和传统关系型数据库的区别是:Hive是建立在Hadoop之上的,主要面向大规模数据的存储和分析。与传统关系型数据库相比,Hive更适合处理批处理任务,具有更好的可扩展性和容错性。另外,Hive使用的查询语言是类似于SQL的HiveQL,而不是传统的SQL。
评论
#每天一个知识点# git 提交报错:error: Your local changes to the following files would be overwritten by merge:....Please, commit your changes or stash them before you can merge.Aborting。
方法1:git reset --hard git pull 丢弃本地修改
方法2:git stash git pull git stash pop 拉取保存本地修改
展开
评论
#每天一个知识点# MySQL索引的优点:快速查询、提高数据检索效率、加速排序和聚合操作、提高数据唯一性和完整性;
缺点:索引占用存储空间、索引更新代价高、索引维护开销、索引选择和设计困难。
评论
#每天一个知识点# hive分区表合并可以使用ALTER TABLE table PARTITION (partition) CONCATENATE,也可以使用 insert override table select * from table distribute by partition,亲测第二种效果会更好一点
评论
#每天一个知识点# hdfs写入数据任务异常时候,重启任务之前要检查(/user/xxx/xxx/)是否有打开文件hdfs fsck /user/xxx/xxx -openforwrite,如果打开文件数少的话可以手动操作(指定到文件)hdfs debug recoverLease -path /user/xxx/xxx -retries 3,文件数多的话等待1个小时自动释放租约
展开
评论
下一页
个人成就
文章被点赞 70
文章被阅读 44,170
掘力值 1,241
收藏集
3
关注标签
33
加入于