百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

开源Superset在线设计图表框架源码解析

ccwgpt 2024-11-01 11:34 207 浏览 0 评论

目的

superset是很强大的BI分析框架,有些不满足需求的难免要二次开发,二次开发首先要读懂它的源码,基于此目的把自己阅读代码的一些分析分享给大家,让大家都superset整体的源码有个整体的认识,然后具体到哪块代码的时候,可以快速找到具体分析。

Superset是什么?

Superset 是一款由 Airbnb 开源的“现代化的企业级 BI(商业智能) Web 应用程序”,其通过创建和分享 dashboard,为数据分析提供了轻量级的数据查询和可视化方案。

支持的图表类型非常多,如下一部分:

进入正题,源码分析

后台

spuerset 后端采用 Flask-AppBuilder, Sqlachermy, celery,pandas

Flask-AppBuilder: superset 的基本框架,登录验证,权限控制

pandas:数据处理

celery:定时异步任务

sqlachermy: 数据引擎,连接DB

superset源码结构如下:


  • bin: 程序的入口文件,可以不关心
  • common: 程序共用的代码,暂不关心
  • connectors: 数据库连接器,连接数据源有2种类型,通过ConnectorRegistry连接
  • migration: superset本身的数据库 升级操作记录
  • db_engine_specs,db_engines: 连接其他数据库的engines 比如mysql,pgsql等
  • examples: 事例文件,不关心
  • models: 数据库模型, Slice, Dashboard
  • views: 视图,core.py 存放所有得superset 开头的接口
  • tasks: celery 任务脚本
  • security: 修改权限入口
  • templates, static: 前端相关的模板, 控件代码
  • app.py: superset 服务启动,初始化入口
  • cli.py: spuerset 命令
  • viz.py: 重要,所有得图表类型 后端数据处理入口
  • extensions.py: 定义 celery, logger 等中间件

前端


superset 前端采用 React,D3

  • superset-frontend/webpack.config.js : 前端入口文件
  • superset-frontend/src: 前端重要文件
  • superset-frontend/src/explore: 查看图表详情的页面
  • superset-frontend/src/chart:根据图表属性渲染具体图表页面,里面调用了SuperChart组件,而此组件属于superset-ui前端库,会根据后台传入的属性,最终渲染出对应的图表组件。

总结

动态图表设计思路其实都是如此,前端会把各种图表先写好,内置到代码中,然后每个图表都是自己唯一标示和相应的属性,等通过拖拽设计好后,保存的时候其实就是把图表对应的属性元数据信息(描述图表的json字符串),发送给后台。 等预览图表的时候,其实就是从后台读取这些元数据信息,然后给前端组件按照这些元数据信息,找到对应的内置好的图表组件,并渲染出来,而上面的SuperChart组件其实就是superset框架中的渲染组件。

前端和后台交互源码分析

前端的代码结构中webpack.config.js 入口文件中 定义了 以src文件夹去生成打包js文件,webpack的功能

会根据不同的源码,打包成不同的文件,打包后的文件是可以直接给浏览器运行的

后台代码入口

superset/app.py

下面列出一些主要的代码片段,大部分都是这种的

appbuilder.add_link(
    "SQL Editor",
    label=_("SQL Editor"),
    href="/superset/sqllab/",
    category_icon="fa-flask",
    icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
appbuilder.add_link(
    __("Saved Queries"),
    href="/savedqueryview/list/",
    icon="fa-save",
    category="SQL Lab",
)
appbuilder.add_link(
    "Query Search",
    label=_("Query History"),
    href="/superset/sqllab/history/",
    icon="fa-search",
    category_icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
 appbuilder.add_view(
            SliceModelView,
            "Charts",
            label=__("Charts"),
            icon="fa-bar-chart",
            category="",
            category_icon="",
        )
appbuilder.add_view(
            DashboardModelView,
            "Dashboards",
            label=__("Dashboards"),
            icon="fa-dashboard",
            category="",
            category_icon="",
        )

这些都是flask Appbuilder框架的内容,大概意思就是通过add_link和add_view会在界面上加入相应的菜单,如果是add_link点击菜单的时候就会访问相应的链接,比如第一个,点击“SQL Editor”菜单的时候,会访问/superset/sqllab/链接发送给后台。

然后后台处理/superset/sqllab/链接的后台代码在哪?

在superset/view/core.py文件中,代码如下:

@has_access
@event_logger.log_this
@expose("/sqllab/", methods=["GET", "POST"])
def sqllab(self) -> FlaskResponse:
    """SQL Editor"""
    payload = {
        "defaultDbId": config["SQLLAB_DEFAULT_DBID"],
        "common": common_bootstrap_payload(),
        **self._get_sqllab_tabs(g.user.get_id()),
    }

    form_data = request.form.get("form_data")
    if form_data:
        try:
            payload["requested_query"] = json.loads(form_data)
        except json.JSONDecodeError:
            pass

    payload["user"] = bootstrap_user_data(g.user)
    bootstrap_data = json.dumps(
        payload, default=utils.pessimistic_json_iso_dttm_ser
    )
    return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

上面的注解都是flask框架的东西,定义了处理/sqllab请求的方法,其中render_template是flask框架渲染模板的方法,里面传入两个参数一个entry=“sqllab”和bootstrap_data,最后会把渲染后台的页面返回给后台。

这里再详细看下模板渲染,先看下superset/basic.html这个模板文件,默认的flask框架的模板都在源码的templates目录下,这里是templates/superset/basic.html,这里粘贴核心代码如下:

{% block body %}
  <div id="app" data-bootstrap="{{ bootstrap_data }}">
    <img src="/static/assets/images/loading.gif" style="width: 50px; position: absolute; top: 50%; left: 50%; transform: translate(-50%,-50%)">
  </div>
{% endblock %}
// --------------------------------
{% block tail_js %}
      {% if not standalone_mode %}
        {{ js_bundle('menu') }}
      {% endif %}
      {% if entry %}
        {{ js_bundle(entry) }}
      {% endif %}
      {% include "tail_js_custom_extra.html" %}
    {% endblock %}

上面一部分的代码定义了一个id=app的div,用过前端react或vue框架的都知道,这个是前端js文件渲染的入口,无论是vue还是react生成的js文件都会绑定到一个id=app的div下面的。

下面那块代码会js_bundle(entry),其中通过上面分析entry是sqllab,他会从目录中到到前端通过webpack打包好的js_bundle文件,这里的sqllab在前面的webpack.config.js中已经定义了,这里再粘贴一下吧

可以看到里面有sqlab,最终后台代码

return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

就是根据模板把前端代码/src/sqllab/index.jsx打包生成的对应js代码,嵌入到了模板中,然后返回给前端显示了。

后续页面中的具体请求都是rest api请求,后台对应的代码如下:


结构都很类似,都有api.py,dao.py等,其中api.py就是处理页面中发起的rest api请求的(其实最终通过ajax),到时候具体问题具体分析即可。

总结

superset框架app.py中定义了界面上各个菜单按钮的功能跳转链接,然后具体链接的后台处理在views/core.py中,它会继续根据templates模板渲染出结果给前端显示,模板中会根据传入的参数来找到对应的前端webpack打包好的文件(不一定都是这样,这些只是其中的一部分)。

它这个前后端分离跟之前的还是有点区别的,并不是把打包好的前端代码通过nginx访问的,他还是通过python代码访问的,模板的方式嵌入。

相关推荐

一个基于.Net Core遵循Clean Architecture原则开源架构

今天给大家推荐一个遵循CleanArchitecture原则开源架构。项目简介这是基于Asp.netCore6开发的,遵循CleanArchitecture原则,可以高效、快速地构建基于Ra...

AI写代码翻车无数次,我发现只要提前做好这3步,bug立减80%

写十万行全是bug之后终于找到方法了开发"提示词管理助手"新版本那会儿,我差点被bug整崩溃。刚开始两周,全靠AI改代码架构,结果十万行程序漏洞百出。本来以为AI说没问题就稳了,结果...

OneCode低代码平台的事件驱动设计:架构解析与实践

引言:低代码平台的事件驱动范式在现代软件开发中,事件驱动架构(EDA)已成为构建灵活、松耦合系统的核心范式。OneCode低代码平台通过创新性的注解驱动设计,将事件驱动理念深度融入平台架构,实现了业务...

国内大厂AI插件评测:根据UI图生成Vue前端代码

在IDEA中安装大厂的AI插件,打开ruoyi增强项目:yudao-ui-admin-vue31.CodeBuddy插件登录腾讯的CodeBuddy后,大模型选择deepseek-v3,输入提示语:...

AI+低代码技术揭秘(二):核心架构

本文档介绍了为VTJ低代码平台提供支持的基本架构组件,包括Engine编排层、Provider服务系统、数据模型和代码生成管道。有关UI组件库和widget系统的信息,请参阅UI...

GitDiagram用AI把代码库变成可视化架构图

这是一个名为gitdiagram的开源工具,可将GitHub仓库实时转换为交互式架构图,帮助开发者快速理解代码结构。核心功能一键可视化:替换GitHubURL中的"hub...

30天自制操作系统:第六天:代码架构整理与中断处理

1.拆开bootpack.c文件。根据设计模式将对应的功能封装成独立的文件。2.初始化pic:pic(可编程中断控制器):在设计上,cpu单独只能处理一个中断。而pic是将8个中断信号集合成一个中断...

AI写代码越帮越忙?2025年研究揭露惊人真相

近年来,AI工具如雨后春笋般涌现,许多人开始幻想程序员的未来就是“对着AI说几句话”,就能轻松写出完美的代码。然而,2025年的一项最新研究却颠覆了这一期待,揭示了一个令人意外的结果。研究邀请了16位...

一键理解开源项目:两个自动生成GitHub代码架构图与说明书工具

一、GitDiagram可以一键生成github代码仓库的架构图如果想要可视化github开源项目:https://github.com/luler/reflex_ai_fast,也可以直接把域名替换...

5分钟掌握 c# 网络通讯架构及代码示例

以下是C#网络通讯架构的核心要点及代码示例,按协议类型分类整理:一、TCP协议(可靠连接)1.同步通信//服务器端usingSystem.Net.Sockets;usingTcpListene...

从复杂到优雅:用建造者和责任链重塑代码架构

引用设计模式是软件开发中的重要工具,它为解决常见问题提供了标准化的解决方案,提高了代码的可维护性和可扩展性,提升了开发效率,促进了团队协作,提高了软件质量,并帮助开发者更好地适应需求变化。通过学习和应...

低代码开发当道,我还需要学习LangChain这些框架吗?| IT杂谈

专注LLM深度应用,关注我不迷路前两天有位兄弟问了个问题:当然我很能理解这位朋友的担忧:期望效率最大化,时间用在刀刃上,“不要重新发明轮子”嘛。铺天盖地的AI信息轰炸与概念炒作,很容易让人浮躁与迷茫。...

框架设计并不是简单粗暴地写代码,而是要先弄清逻辑

3.框架设计3.框架设计本节我们要开发一个UI框架,底层以白鹭引擎为例。框架设计的第一步并不是直接撸代码,而是先想清楚设计思想,抽象。一个一个的UI窗口是独立的吗?不是的,...

大佬用 Avalonia 框架开发的 C# 代码 IDE

AvalonStudioAvalonStudio是一个开源的跨平台的开发编辑器(IDE),AvalonStudio的目标是成为一个功能齐全,并且可以让开发者快速使用的IDE,提高开发的生产力。A...

轻量级框架Lagent 仅需20行代码即可构建自己的智能代理

站长之家(ChinaZ.com)8月30日消息:Lagent是一个专注于基于LLM模型的代理开发的轻量级框架。它的设计旨在简化和提高这种模型下代理的开发效率。LLM模型是一种强大的工具,可以...

取消回复欢迎 发表评论: