百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

开源Superset在线设计图表框架源码解析

ccwgpt 2024-11-01 11:34 154 浏览 0 评论

目的

superset是很强大的BI分析框架,有些不满足需求的难免要二次开发,二次开发首先要读懂它的源码,基于此目的把自己阅读代码的一些分析分享给大家,让大家都superset整体的源码有个整体的认识,然后具体到哪块代码的时候,可以快速找到具体分析。

Superset是什么?

Superset 是一款由 Airbnb 开源的“现代化的企业级 BI(商业智能) Web 应用程序”,其通过创建和分享 dashboard,为数据分析提供了轻量级的数据查询和可视化方案。

支持的图表类型非常多,如下一部分:

进入正题,源码分析

后台

spuerset 后端采用 Flask-AppBuilder, Sqlachermy, celery,pandas

Flask-AppBuilder: superset 的基本框架,登录验证,权限控制

pandas:数据处理

celery:定时异步任务

sqlachermy: 数据引擎,连接DB

superset源码结构如下:


  • bin: 程序的入口文件,可以不关心
  • common: 程序共用的代码,暂不关心
  • connectors: 数据库连接器,连接数据源有2种类型,通过ConnectorRegistry连接
  • migration: superset本身的数据库 升级操作记录
  • db_engine_specs,db_engines: 连接其他数据库的engines 比如mysql,pgsql等
  • examples: 事例文件,不关心
  • models: 数据库模型, Slice, Dashboard
  • views: 视图,core.py 存放所有得superset 开头的接口
  • tasks: celery 任务脚本
  • security: 修改权限入口
  • templates, static: 前端相关的模板, 控件代码
  • app.py: superset 服务启动,初始化入口
  • cli.py: spuerset 命令
  • viz.py: 重要,所有得图表类型 后端数据处理入口
  • extensions.py: 定义 celery, logger 等中间件

前端


superset 前端采用 React,D3

  • superset-frontend/webpack.config.js : 前端入口文件
  • superset-frontend/src: 前端重要文件
  • superset-frontend/src/explore: 查看图表详情的页面
  • superset-frontend/src/chart:根据图表属性渲染具体图表页面,里面调用了SuperChart组件,而此组件属于superset-ui前端库,会根据后台传入的属性,最终渲染出对应的图表组件。

总结

动态图表设计思路其实都是如此,前端会把各种图表先写好,内置到代码中,然后每个图表都是自己唯一标示和相应的属性,等通过拖拽设计好后,保存的时候其实就是把图表对应的属性元数据信息(描述图表的json字符串),发送给后台。 等预览图表的时候,其实就是从后台读取这些元数据信息,然后给前端组件按照这些元数据信息,找到对应的内置好的图表组件,并渲染出来,而上面的SuperChart组件其实就是superset框架中的渲染组件。

前端和后台交互源码分析

前端的代码结构中webpack.config.js 入口文件中 定义了 以src文件夹去生成打包js文件,webpack的功能

会根据不同的源码,打包成不同的文件,打包后的文件是可以直接给浏览器运行的

后台代码入口

superset/app.py

下面列出一些主要的代码片段,大部分都是这种的

appbuilder.add_link(
    "SQL Editor",
    label=_("SQL Editor"),
    href="/superset/sqllab/",
    category_icon="fa-flask",
    icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
appbuilder.add_link(
    __("Saved Queries"),
    href="/savedqueryview/list/",
    icon="fa-save",
    category="SQL Lab",
)
appbuilder.add_link(
    "Query Search",
    label=_("Query History"),
    href="/superset/sqllab/history/",
    icon="fa-search",
    category_icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
 appbuilder.add_view(
            SliceModelView,
            "Charts",
            label=__("Charts"),
            icon="fa-bar-chart",
            category="",
            category_icon="",
        )
appbuilder.add_view(
            DashboardModelView,
            "Dashboards",
            label=__("Dashboards"),
            icon="fa-dashboard",
            category="",
            category_icon="",
        )

这些都是flask Appbuilder框架的内容,大概意思就是通过add_link和add_view会在界面上加入相应的菜单,如果是add_link点击菜单的时候就会访问相应的链接,比如第一个,点击“SQL Editor”菜单的时候,会访问/superset/sqllab/链接发送给后台。

然后后台处理/superset/sqllab/链接的后台代码在哪?

在superset/view/core.py文件中,代码如下:

@has_access
@event_logger.log_this
@expose("/sqllab/", methods=["GET", "POST"])
def sqllab(self) -> FlaskResponse:
    """SQL Editor"""
    payload = {
        "defaultDbId": config["SQLLAB_DEFAULT_DBID"],
        "common": common_bootstrap_payload(),
        **self._get_sqllab_tabs(g.user.get_id()),
    }

    form_data = request.form.get("form_data")
    if form_data:
        try:
            payload["requested_query"] = json.loads(form_data)
        except json.JSONDecodeError:
            pass

    payload["user"] = bootstrap_user_data(g.user)
    bootstrap_data = json.dumps(
        payload, default=utils.pessimistic_json_iso_dttm_ser
    )
    return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

上面的注解都是flask框架的东西,定义了处理/sqllab请求的方法,其中render_template是flask框架渲染模板的方法,里面传入两个参数一个entry=“sqllab”和bootstrap_data,最后会把渲染后台的页面返回给后台。

这里再详细看下模板渲染,先看下superset/basic.html这个模板文件,默认的flask框架的模板都在源码的templates目录下,这里是templates/superset/basic.html,这里粘贴核心代码如下:

{% block body %}
  <div id="app" data-bootstrap="{{ bootstrap_data }}">
    <img src="/static/assets/images/loading.gif" style="width: 50px; position: absolute; top: 50%; left: 50%; transform: translate(-50%,-50%)">
  </div>
{% endblock %}
// --------------------------------
{% block tail_js %}
      {% if not standalone_mode %}
        {{ js_bundle('menu') }}
      {% endif %}
      {% if entry %}
        {{ js_bundle(entry) }}
      {% endif %}
      {% include "tail_js_custom_extra.html" %}
    {% endblock %}

上面一部分的代码定义了一个id=app的div,用过前端react或vue框架的都知道,这个是前端js文件渲染的入口,无论是vue还是react生成的js文件都会绑定到一个id=app的div下面的。

下面那块代码会js_bundle(entry),其中通过上面分析entry是sqllab,他会从目录中到到前端通过webpack打包好的js_bundle文件,这里的sqllab在前面的webpack.config.js中已经定义了,这里再粘贴一下吧

可以看到里面有sqlab,最终后台代码

return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

就是根据模板把前端代码/src/sqllab/index.jsx打包生成的对应js代码,嵌入到了模板中,然后返回给前端显示了。

后续页面中的具体请求都是rest api请求,后台对应的代码如下:


结构都很类似,都有api.py,dao.py等,其中api.py就是处理页面中发起的rest api请求的(其实最终通过ajax),到时候具体问题具体分析即可。

总结

superset框架app.py中定义了界面上各个菜单按钮的功能跳转链接,然后具体链接的后台处理在views/core.py中,它会继续根据templates模板渲染出结果给前端显示,模板中会根据传入的参数来找到对应的前端webpack打包好的文件(不一定都是这样,这些只是其中的一部分)。

它这个前后端分离跟之前的还是有点区别的,并不是把打包好的前端代码通过nginx访问的,他还是通过python代码访问的,模板的方式嵌入。

相关推荐

用Deepseek扩写土木工程毕业论文实操指南

用Deepseek扩写毕业论文实操指南一、前期准备整理现有论文初稿/提纲列清楚论文核心框架(背景、现状、意义、方法、数据、结论等)梳理好关键文献,明确核心技术路线二、Deepseek扩写核心思路...

985学霸亲授,DeepSeek也能绘6大科研图表,5分钟就出图

在实验数据处理中,高效可视化是每个科研人的必修课。传统绘图软件操作复杂、耗时费力,而智能工具DeepSeek的出现彻底改变了这一现状。本文将详解如何用DeepSeek一键生成六大科研常用图表,从思维导...

AI写论文刷屏?大学生正在丢掉的思考力

一、宿舍深夜:当论文变成"Ctrl+C+V"凌晨两点的大学宿舍,小王对着电脑屏幕叹气。本该三天前开始写的近代史论文,此刻还一片空白。他熟练打开某AI写作网站,输入"论五四运动的...

Grok在辅助论文写作上能不能既“聪明”又“可怕”?!

AcademicIdeas-学境思源AI初稿写作随着人工智能技术的飞速发展,论文写作这一学术任务正迎来新的助力。2025年2月18日,美国xAI公司推出了备受瞩目的Grok3模型,其创始人埃隆·...

大四论文沟通场景!音频转文字难题听脑AI来化解

大四学生都知道,写论文时和导师沟通修改意见,简直是“过关斩将”。电话、语音沟通完,想把导师说的修改方向、重点要求记下来,麻烦事儿可不少。手写记不全,用普通录音转文字工具,转完还得自己慢慢找重点,稍不注...

论文写作 | 技术路线图怎么画?(提供经典优秀模板参考)

技术路线图是一种图表或文字说明,用于描述研究目标、方法和实施计划。它展示了研究的整体框架和步骤,有助于读者理解研究的逻辑和进展。在课题及论文中,技术路线图是常见的一部分,甚至是一个类似心脏一样的中枢器...

25年信息系统项目管理师考试第2批论文题目写作建议思路框架

25年信息系统项目管理师考试第2批论文题目写作建议思路框架--马军老师

微信购物应尽快纳入法律框架(微信购物管辖)

符向军近日,甘肃省工商行政管理局发布《2016年上半年信息分析报告》。报告显示,微信网购纠纷迅猛增长,网络购物投诉呈上升趋势。投诉的主要问题有出售的商品质量不过关、消费者通过微信付款后对方不发货、购买...

泛珠三角区域网络媒体与腾讯微信签署《战略合作框架协议》

新海南客户端、南海网7月14日消息(记者任桐)7月14日上午,参加第四届泛珠三角区域合作网络媒体论坛的区域网络媒体负责人及嘉宾一行到腾讯微信总部座谈交流,并签署《战略合作框架协议》(以下简称《框架协...

离线使用、植入微信-看乐心Mambo手环如何打破框架

从2014年开始智能手环就成功进入人们的生活,至今已经演变出数据监测、信息推送、心率监测等诸多五花八门的功能,人们选择智能手环并不指望其能够改变身体健康情况,更多的是通过数据来正视自身运动情况和身体健...

微信私域电商运营策略与框架(微信私域怎么做)

...

华专网络:如何零基础制作一个网站出来?

#如何零基础制作一个网站出来?#你是不是觉得网站建设很复杂,觉得自己是小白,需求不明确、流程搞不懂、怕被外包公司坑……这些问题我都懂!今天华专网络就用大白话给你捋清楚建站的全流程,让你轻松get网站制...

WAIC2024丨明日上午9点,不见不散!共同探讨智能社会与全球治理框架

大咖云集,硕果闪耀WAIC2024世界人工智能大会智能社会论坛将于7月5日9:00-12:00与你相约直播间WAIC2024上海杨浦同济大学哔哩哔哩多平台同步直播探讨智能社会与全球治理框架WAIC...

约基奇:森林狼换来戈贝尔时大家都在嘲笑 他们的阵容框架很不错

直播吧5月4日讯西部季后赛半决赛,掘金将迎战森林狼,约基奇赛前接受采访。约基奇说道:“当蒂姆-康纳利(森林狼总经理、前掘金总经理&曾选中约基奇)做了那笔交易(换来戈贝尔)时,每个人都在嘲笑他...

视频号带货为什么一个流量都没有?顶级分析框架送给你

视频号带货为什么一个流量都没有?遇到问题,一定是步步来分析内容,视频号带货一个流量都没有,用另外一个意思来讲,就可以说是零播放。为什么视频号带货一个流量都没有?跟你说再多,都不如来个分析框架。1、是否...

取消回复欢迎 发表评论: