首页 | 官方网站   微博 | 高级检索  
     

基于微服务的石油大数据挖掘平台
引用本文:郭燚,张卫山,徐亮,翟佳.基于微服务的石油大数据挖掘平台[J].计算机与现代化,2019,0(5):25.
作者姓名:郭燚  张卫山  徐亮  翟佳
作者单位:中国石油大学(华东)计算机与通信工程学院,山东 青岛,266580;北京科技大学计算机与通信工程学院,北京,100083;中国传媒大学信息与通信工程学院,北京,100024
基金项目:国家自然科学基金资助项目(61309024); 山东省重点科研项目(2017GGX10140)
摘    要:为推进大数据技术在油田领域的快速融合和应用,提出一种覆盖大数据处理整个生命周期的多功能大数据处理平台。平台融合各类大数据分析框架和机器学习框架,设计面向油田领域,能够支持实时和离线处理的数据挖掘功能。基于Docker容器封装各类计算框架和算法服务,并基于Kubernetes框架完成容器的编排与调度。在系统的架构方式上采用基于微服务的架构方式,将不同技术栈的应用独立分解为单个服务模块,以此来保证业务系统服务的可靠性、可扩展性。这使得企业数据分析人员能够专注于业务数据分析问题,而不必花费大量时间学习框架部署和其他大型数据挖掘技术细节。

关 键 词:微服务  大数据挖掘  Docker
收稿时间:2019-05-14

A Micro-service-based Oil Big Data Mining Platform
GUO Yi,ZHANG Wei-shan,XU Liang,ZHAI Jia.A Micro-service-based Oil Big Data Mining Platform[J].Computer and Modernization,2019,0(5):25.
Authors:GUO Yi  ZHANG Wei-shan  XU Liang  ZHAI Jia
Abstract: In order to promote the rapid fusion and application of big data technology in oilfield, a multi-functional big data processing platform covering the whole life cycle of big data processing is proposed. The platform combines various big data analysis frameworks and machine learning frameworks to design data mining functions that can support real-time and off-line processing in the oilfield. Based on Docker containers, it encapsulates all kinds of computing frameworks and algorithms, and  based on Kubernetes framework, it completes container arrangement and scheduling. In order to ensure the reliability and extensibility of the business system services, the system adopts the micro-service-based architecture, which decomposes the application of different technology stacks into a single service module independently. This allows enterprise data analysts to focus on business data analysis issues without spending a lot of time learning the details of framework deployment and other big data mining technologies.
Keywords:micro-services  big data mining  Docker  
本文献已被 万方数据 等数据库收录!
点击此处可从《计算机与现代化》浏览原始摘要信息
点击此处可从《计算机与现代化》下载全文
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司    京ICP备09084417号-23

京公网安备 11010802026262号