Linkis 1.0.1正式发版 -大数据平台中间件解决方案

783

Linkis是开源的大数据平台中间件解决方案,前台系统通过对接Linkis ,可以快速获得金融级多租户、资源管控、权限隔离能力,支持跨多个前台系统的统一变量、函数、资源文件管理能力,拥有高并发、高性能、高可用的大数据作业/请求全生命周期管理能力。 Linkis基于微服务架构,支持插拔式的大数据计算、存储引擎。

Linkis 1.0.1对Linkis1.0.0版本发现Bug和影响性能,便利性的问题进行了修复和增强,欢迎更新升级。

 

Linkis 1.0.1

    Linkis 1.0.1 作为1.0.0的修复版本,这次版本主要修复了高并发场景下的性能bug,以及优化资源管理模块,以及修复多个已发现的bug,并优化Spark引擎支持 FATE使用。

    FATE (Federated AI Technology Enabler) 是微众银行AI部门发起的开源项目,为联邦学习生态系统提供了可靠的安全计算框架(github.com/FederatedAI…

Abbreviations (关键字缩写):
CGS: Computation Governance Services(计算治理服务)
PES: Public Enhancement Services(公共增强服务)
MGS: Microservice Governance Services(微服务治理服务)

 

增强

  • [Commons]  Linkis-HTTPClient在上传文件时支持设置ContentType.

  • [Commons]  Linkis-HttpClient支持兼容Response的content为空.

  • [Commons]  HDFS FileSystem对象支持进行缓存.

  • [Commons]  优化Shoutdown兼容windows操作系统.

  • [Orchestrator]  ioClient支持隔离单独的Orchestrator.

  • [PES-JobHistory]  JobHistory支持记录用户提交任务的原始代码.

  • [PES-InstanceLabel]  InstanceLabel模块支持增加和移除标签信息.

  • [PES-ErrorCode]  优化错误码模块的初始化sql,移除id字段的默认值.

  • [PES-Configuration] 管理台的配置支持修改实时刷新缓存值.

  • [PES-Configuration] 管理台支持内存设置单位,默认单位是GB.

  • [CGS-Entrance]  优化支持任务提交记录客户端IP信息,以方便链路分析.

  • [CGS-LimkisMnagager ] ECM的租户标签应该不被移除的,方便重启时保留租户标签信息.

  • [EnginePlugin-Spark]  Spark EngineConn的启动参数支持设置原生参数去支持Fate使用,例如设置python版本.

 

Bug修复

  • [Commons]  Logging 是建议被优化, 因为如果用户传入的内容是null会导致空指针异常.
  • [Commons]  jackson-core-asl 包存在冲突, linkis1.0在兼容CDH版本时.
  • [PES-UDF]  UDFClient存在只能获取UDF不能获取方法函数的Bug.
  • [PES-BML] 优化BML EngineConnHook的执行顺序,修复资源文件不可读问题.
  • [PES-Configuration]  Linkis管理台在设置JDBC参数时,保存会出错.
  • [CGS-Entrance] 当一个任务包含千条sql时,存在错误执行的Bug.
  • [CGS-Entrance] 当sql的limit超过5000时任务会执行失败.
  • [CGS-Entrance]  在压测同时运行一万个任务时,日志存在记录不全的情况.
  • [CGS-Entrance]  在压测10000个任务时存在任务处在 Inited/Running/Scheduled不更新的情况.
  • [CGS-LimkisMnagager]  当管理台设置引擎为2时,在schedulis进行调度时存在会启动18个引擎的情况.
  • [CGS-LimkisMnagager]  ECM管理存在concurrent label的值为空问题.
  • [EnginePlugin-Hive] 当kill 一个复杂的Hive任务时,存在不能kill Yarn上任务的偶发情况.

 

 

贡献者

Linkis 1.0.1 的发布离不开 WeDataSphere 社区的贡献者。在此感谢各位社区的贡献者!

 

云资源

腾讯云:

osp-1257653870.cos.ap-guangzhou.myqcloud.com/WeDataspher…