首页 > 其他分享 >袋鼠云数据资产平台:数据模型标准化建表重构升级

袋鼠云数据资产平台:数据模型标准化建表重构升级

时间:2024-09-26 16:23:49浏览次数:11  
标签:袋鼠 const Form 渲染 表单 依赖 组件 建表 数据模型

想要建立一个良好的数据模型,设计时需要优先考虑数据的关系,避免出现数据冗余和不一致的问题,减少数据维护的难度。

正是基于这样的需求,袋鼠云数据资产平台中的数据模型提供了一种建表的能力,可以对表名、字段名等信息进行约束,并且支持批量解析模式(根据中文名批量解析字段)与建表语句模式进行快速的模型搭建。

下面是其界面功能展示,针对不同的数据源类型,可配置的字段属性与交互方式也不尽相同。

袋鼠云数据资产平台:数据模型标准化建表重构升级_字段

袋鼠云数据资产平台:数据模型标准化建表重构升级_List_02

数据资产数据模型建表一开始是只针对建Hive表的,但随着后续迭代改为数仓表后,会不断支持离线开发中的更多数据源类型。但由于历史代码书写原因,目前存在以下问题:

* 数据流管理混乱,未遵守单向数据流原则,导致常常出现页面展示与实际提交数据不一致的情况;

* 表单完全受控,性能问题显著,当字段数达到30+时,表单总数来到300+,输入型表单明显掉帧;

* 迭代中加入的字段间交互越来越多,没法解决表单间交互依赖问题;

* 代码维护成本过高,工时评估普遍偏长;

* 不同数据源类型交互、字段差异性管理,需要维护的枚举会越来越多,需要统一管理。

为了更好地满足客户需求,提升用户体验,袋鼠云数栈UED团队根据政策导向、市场环境、行业趋势和用户反馈,对数据资产平台的数据模型建表资产源代码进行了重构升级。

架构设计

建表主要分为两个部分,表基本信息配置与字段结构配置。针对以上痛点问题,本次数据模型建表的主要重构点为字段结构配置的以下四个方面。

1. 数据流

数据流管理是 React 前端开发流程中最重要的一环之一,良好的数据流管理,能使组件之间进行高效的状态共享,状态变化溯源与提高代码可维护性。

数据模型数据流目前的情况:

袋鼠云数据资产平台:数据模型标准化建表重构升级_表单_03

可以看出原始代码中的数据流管理是非常混乱的,组件间状态随意共享,ref 跨多个层级的访问,其中为了能在进行步骤条切换时仍能保留状态信息,还在最外层组件保留了每个步骤组件的状态信息。

我们重新设计组件的嵌套结构,与状态存储的方式,使其符合单一数据源与单向数据流基本原则。

重构后数据流图如下,引入了Context层来精简数据流。

袋鼠云数据资产平台:数据模型标准化建表重构升级_List_04

2. Context层

最外层组件维护 tableData数据源来保存表单数据,通过 TableModel.ProviderContext来向所有子组件共享该数据源,避免 Props 传递过深。

Form.Provider为 antd提供的表单间交互方式,目前 Step1 与 Step2 之间的交互并不多,主要是切换数据源类型时将 Step2 的数据清空,我们所有表单间交互都在外层组件中 onFormChange中去定义。

KeepAlive.Provider是用来缓存每个步骤组件实例的,我们无需再在步骤切换时缓存每个组件内的状态信息至父组件。KeepAlive功能由于 React 不支持,我们自行通过 Suspense实现。

3. Form层

原来的 Form组件的作用仅仅是用来做表单校验,实际又用了 state 去做数据收集,带来了严重的数据不一致问题,所以重构后完全采用 Form进行数据收集。

实现FormList

FormList用于实现第二步的可编辑表格功能,其使用方式与 antd 的 Form.List基本相同,但我们采用自己实现的 FormList组件。

为何不直接使用 antd 的 Form.List ?

Form.List会给其内部所有的表单项拼接上 List 字段名,如 [”columnInfoList”, 0, “columnType”] ,但诸如分区字段类型,分区详细信息是与 columnInfoList字段同级的,没法在 Form.List中定义绑定在全局的字段。

FormList中自行实现增、删、移动等基本功能,比较 Array<Key>来判断是否要重新渲染,每个 item 项可自行决定是否拼接 List 前缀 […field.fieldName, “columnType”], 并通过 Context的方式向子组件传递 List 字段名

使用方式:

<FormList name="columnInfoList">

    {(fields, operation) => (

        <>

            <Table

                rowKey="key"

                columns={columns}

                dataSource={fields}

                paginatinotallow={false}

            />

            <Button

                =>

                    operation.add({

                        isPartition: true,

                        isAdd: true,

                    })

                }

            >

                新增

            </Button>

        </>

    )}

</FormList>

Form视图依赖处理

由于 Form 的局部渲染机制,只对改变的字段进行渲染,所以为了简化表单项依赖代码,封装两个组件方便定义重新渲染时机。

数据模型中一个表单项是否需要重新渲染有三种情况:

list 中当前行的依赖的字段值改变了才 rerender, 比如当前行勾选主键则禁用当前行的非null列。

list 所有行中某个依赖的字段值改变了都 rerender, 比如勾选了其中一个分区字段,其他所有行的分区字段列都禁用掉,都需要进行一次 rerender。

Form 层级中的表单项改变了需要进行 rerender。

针对第1、2种情况,封装 FormListDependency, 传入 index表示依赖的具体行,deps表示依赖的字段名。

deps如果是 ["fieldA"]的形式则是上述第一种情况 , 如果是 ["$list", "fieldA"]则是第二种情况。

一个例子:只允许一列为主键,勾选后其他所有主键列禁用, 且与当前列的分区字段互斥。

主键列的定义实现代码如下:

<FormListDependency index={index} deps={['isPartition', ['$list', 'pk']]}>

    {(record, columnInfoList) => {

        const pkIndex = columnInfoList.findIndex((item) => item.pk);

        const disabled = pkIndex !== -1 && pkIndex !== index || record.isPartition;

        return (

            <FormItem

                name={[...field.fieldName, 'pk']}

                initialValue={false}

                valuePropName="checked"

            >

                <Checkbox disabled={disabled} />

            </FormItem>

        );

    }}

</FormListDependency>

针对第3种情况,封装 FormDependency 组件,使用方式同 FormListDependency,不需要额外传入下标参数。

注意:对于动态列,即可能展示或者隐藏的列,都需要在对应FormItem上加上preserve=false ,如选择了 VARCHAR 字段类型,会自动设置 dataLength ,但切换成其他类型,就应该清除 dataLength ,这也是完全采用 Form 管控的一个很大的好处,无需再关心动态列的脏数据问题。

至此,视图层的依赖我们已经解决,下面我们需要处理逻辑数据层的交互依赖。

4. 交互依赖联动

选中某个字段后,自动设置关联的另外一个字段的值,这种交互在数据模型中会很多。依赖具有传递性,如依赖为A ⇒ B ⇒ C,如果使用以前的方法,我们通常会在A表单项 onChange时手动改变 B 和 C ,但其实 C 是与 B 才是直接关联的,我们可能会考虑不到还要同步设置 C 的值。

参考 Formily 的设计, 依赖可分为主动模式和被动模式 。

主动模式就是类似于 onChange时主动去处理其依赖项的数据变动,优点:更符合开发习惯且更加灵活。

被动模式就是监听某个字段,字段变化时处理自身数据变动,优点:字段依赖显式声明,更清楚的表示依赖关系。

由于我们是列表型表单,如果是使用被动模式,当出现 A 列变更后,所有行的 B 列同步修改这种1对N依赖情况,需要对所有行的 B 列添加 A 依赖,那么当 A 变化时,所有行的 B 列添加的监听回调会执行N次,如果采用主动模式,则只需要在一次监听回调中修改所有行即可。因此,我们采用主动模式。

实现 useFormListReactions

封装一个hooks useFormListReactions 来做依赖管理。

我们需要预先定义字段与该字段改变时的 effect, 当触发字段改变时,会传递当前字段改变后的值,字段在列表中的下标,该行的完整值,表单的完整值,set 方法等。

在进行依赖注册时,如果字段是全局字段,非 List 中的某一项,则可以添加 isExternalField=true,在 effect中只需要设置直接依赖项的值即可。

const { notify } = useFormListReactions(

    [

        {

            fieldName: 'dataType',

            effect(field, { index, item, allFieldsValue }, { setColumnFieldsValue }) {

                field === 'VARCHAR' && setColumnFieldsValue(index, { isPartition: 1 });

            },

        },

        {

            fieldName: 'partitionType',

            isExternalField: true,

            effect(_field, _values, { setFieldValue }) {

                setFieldValue('xx', xx)

            },

        },

    ],

    { form, formListName: 'columnInfoList' }

);

正常情况下,在 Form 的onValuesChange中能监听到用户手动交互时改变的字段,像 setFieldValue 等手动修改情况无法监听到,所以需要对 Form 原生的 set 方法进行一层包装,统一使用包装后的 set 方法我们才能完全监听表单变化。

我们侵入 onValuesChange 中,并使用 hooks 返回的 notify 方法进行消息通知。

<Form

    form={form}

    name="tableStructInfo"

    => {


        const namePath = getObjectNamePath(changedValue);

        // 具体的值

        const fieldValue = getChangedValueByNamePath(changedValue, namePath);

        notify(namePath, fieldValue);

    }}

>

hooks 中提供三种 set 方法, setFieldValue与 setFieldsValue与 Form 的完全一致,setColumnFieldsValue用于修改 List 中某行的值。

const setFieldValue = (name: NamePath, value: any) => {

    const oldValue = form.getFieldValue(name);

    form.setFieldValue(name, value);

    if (checkValueChanged(oldValue, value)) notify(name, value);

  };

const setFieldsValue = (values) => {

    const namePaths = Object.keys(values);

    const oldValues = form.getFieldsValue(namePaths);

    form.setFieldsValue(values);

    namePaths.forEach((namePath) => {

        if (checkValueChanged(oldValues[namePath], values[namePath])) {

            notify(namePath, values[namePath]);

        }

    });

};

const setColumnFieldsValue = (columnIndex, fieldsValue) => {

    const updateFieldNames = Object.keys(fieldsValue);

    const notifyList = [];

    // 批处理完所有setFieldValue后再进行notify, 否则在effect中拿到的其他字段值不是最新的

    updateFieldNames.forEach((fieldName) => {

        const name = [formListName, columnIndex, fieldName];

        const oldValue = form.getFieldValue(name);   

        const newValue = fieldsValue[fieldName];

        form.setFieldValue(name, newValue);

        if (checkValueChanged(oldValue, newValue)) {

            notifyList.push(notify.bind(this, name, newValue))

        }

    });

    while(notifyList.length) {

        const cb = notifyList.pop();

        cb();

    }

};

所有交互产生的副作用我们都通过 useFormListReactions 进行管理,它能够自行处理依赖传递行为,且声明式管理使字段变更后可以很方便的进行溯源。


性能优化

为了提升客户使用过程中的交互体验,优化产品性能表现,本次重构后我们完全采用 Form 做数据收集,能够做到足够精细化的局部渲染,相比重构前几十个字段输入框输入就卡顿严重,重构后在几百行字段数量级下表单输入不会造成非常明显的掉帧现象。

1. 重写 inititalValue,减少初次渲染时 shouldUpdate 调用次数

antd 的按需渲染依赖于 shouldUpdate,假如我们有300行数据,每行有三列字段设置了依赖,那每次表单变化都会触发300 * 3 = 900次 shouldUpdate的执行,这点是没法避免的。

数据模型的动态表单会在该表单上设置 inititalValue, 当表单字段设置 inititalValue时会单独触发一次 storeChange, 导致执行900次 shouldUpdate。编辑时首次渲染,900个字段设置了 initialValue,那么shouldUpdate触发次数将达到 900 * 900 = 810000次,初次渲染会长时间的无反应。

袋鼠云数据资产平台:数据模型标准化建表重构升级_List_05

袋鼠云数据资产平台:数据模型标准化建表重构升级_表单_06

且antd实现的Form.List也是不允许我们设置动态字段的initialValue的。

注意:Form.List 下的字段不应该配置initialValue ,你始终应该通过 Form.List 的initialValue或者 Form 的initialValue来配置。

在数据模型场景下 initialValue 尤为重要,所以我们需要自行实现 initialValue 逻辑,对 Form.Item 进行二次封装,代理掉默认的 initialValue 行为。

const FormItem = ({initialValue, ...restProps}) => {

    const form = Form.useFormInstance();

    useEffect(() => {

        if (initialValue !== undefined) {

            if (

                restProps.name &&

                form.getFieldValue(restProps.name) === undefined

            ) {

                form.setFieldValue(restProps.name, initialValue);

            }

        }

    }, []);

    return <Form.Item {...restProps}/>

}

替换所有 FormItem后,编辑时首次渲染 shouldUpdate调用次数降为1。

2. 使用KeepAlive,减少切换步骤时的卡顿

以200行,每列11个字段的 StarRocks 为例:

未重构前切换步骤是直接销毁了整个组件,导致每次切换时都要重新生成新的节点,花费时间与首次挂载时一致非常长达到4s以上, FPS骤降至个位数。

袋鼠云数据资产平台:数据模型标准化建表重构升级_List_07

引入KeepAlive后,除首次渲染外,切换后FPS稳定在40以上,渲染完成时间基本在1s以内;

袋鼠云数据资产平台:数据模型标准化建表重构升级_表单_08

3. 首次加载添加loading,保持正常FPS帧数

由于首次加载时需要渲染2000条 FormItem,其花费大量时间不可避免,当点击下一步时,会直接卡在当前步骤等待4s+直至表格渲染完成才会完成步骤切换, 用户体验非常不好。

首先为了能让点击下一步时立马响应用户操作,需要把表格数据初始化的操作设置为异步的,其次为避免长时间的表格空数据展示,添加 loading。

const initFormData = () => {

        setLoading(true);

        setTimeout(() => {

            const { partitionType, partitionVOList, columnInfoVOList, granularity } = tableData;

            form.setFieldsValue({

                columnInfoVOList,

                partitionType,

                partitionVOList,

                granularity,

            });

            setLoading(false);

        }, 0);

    };

首次渲染会稍微慢些,但用户交互的及时响应对用户体验非常重要,几乎没有出现FPS掉帧现象。

袋鼠云数据资产平台:数据模型标准化建表重构升级_List_09

4. 避免同时调用大量接口

当第一次挂载时,会直接请求当前列表中所有字段的匹配标准列表,如果200个字段,就直接发送200个请求。

袋鼠云数据资产平台:数据模型标准化建表重构升级_字段_10

优化后:

仅在当前表单 Focus 且未缓存任何数据时才去请求接口, 忽略无用接口请求,加入防抖。

<AutoComplete

    value={value}

    >

    >

    => {

        if (!matchFieldData?.length) getMatchFieldData(value);

    }}

  />

  const getMatchFieldData = (columnNameCn: string) => {

      if (!columnNameCn) {

          setMatchFieldData([])

          return

      }

      const requestId = Symbol('requestId');

      lastRequestIdRef.current = requestId;

      API.columnNameCnMatch({ columnNameCn }).then((res: any) => {

          if (res.success) {

              requestId === lastRequestIdRef.current && setMatchFieldData(res.data || []);

          }

      });

  };

  const debounceGetMatchFieldData = useDebounce(getMatchFieldData, 300);

5. Table复用Cell

由于 table组件的 columns如果添加了 render 自定义渲染, 那么每次父组件的 render ,会造成所有 Cell 进行 rerender,我们需要添加 shouldCellUpdate属性进行 Cell 的缓存。

目前表格表单中依赖的外部状态只有 columnTypeList字段类型的下拉列表,那么 Cell 是否需要刷新仅在字段的顺序变更,删除时需要重新进行 FormItem的注册。

那么我们可以以当前字段的 key 和位置是否变化来决定是否要重新渲染。

<Table

  columns={getColumns()

    .map((item) => {

      return {

        ...item,

        shouldCellUpdate: (prev: any, curr: any) =>

          prev.key !== curr.key ||

          prev.index !== curr.index ||

          item.shouldCellUpdate?.(prev, curr),

      };

    })}

  />

针对需要消费 columnTypeList 状态的列,自行实现 shouldCellUdpdate, 通过 usePreviousState来实现比较 columnTypeList 是否变化。

{

  title: '字段类型',

  key: 'columnType',

  shouldCellUpdate: () => columnTypeList !== prevColumnTypeListRef.current,

}


总结

以数据流重构为基本出发点,对组件进行重新设计与组装,使数据模型可维护性与可拓展性大大提升。通过统一依赖管理,使复杂的表单交互逻辑祛繁就简,可溯源、易管理。并且,通过大量的技术手段,优化了性能表现,提升了用户交互体验。



标签:袋鼠,const,Form,渲染,表单,依赖,组件,建表,数据模型
From: https://blog.51cto.com/u_15137832/12119977

相关文章

  • 关于建表字段是否该使用not null这个问题你怎么看?
    大家好,我是V哥,在数据库设计中,是否使用NOTNULL是一个非常重要的决策,直接影响数据完整性、查询性能以及业务逻辑的复杂度。使用NOTNULL的关键在于理解业务需求和具体场景。下面V哥通过一些场景来分析什么时候应该使用NOTNULL,什么时候允许NULL。一起聊聊经验之谈,望和兄弟......
  • 【IDEA】使用IDEA连接MySQL数据库并自动生成MySQL的建表SQL语句
    前言: 在软件开发过程中,数据库的设计与实现是至关重要的一环。IntelliJIDEA作为一款强大的集成开发环境(IDE),提供了丰富的数据库工具,使得连接MySQL数据库并自动生成建表SQL语句变得简单快捷。本文将详细介绍如何使用IntelliJIDEA中文版连接MySQL数据库,并展示如何自动生成建表......
  • 数据库建表键长度问题
    今天从服务器将数据库的数据拷贝到本地,结果sql执行一直报错,总结一下遇到的几个问题:sql导入时报错,日志内容记录的片段不一定是有错的那一个语句感觉很奇怪,但是确实导入时发现那个日志的定位并不准确。解决:主要是当时日志记录的错误语句我通过查询(控制台)单独执行,并没有报错......
  • 《袋鼠云大数据实操指南》No.6:建设指标管理平台 解锁企业数据价值
    近年来,新质生产力、数据要素及数据资产入表等新兴概念犹如一股强劲的浪潮,持续冲击并革新着企业数字化转型的观念视野,昭示着一个以数据为核心驱动力的新时代正稳步启幕。面对这些引领经济转型的新兴概念,为了更好地服务于客户并提供切实可行的实践指导,自3月20日起,袋鼠云将推出全新《......
  • 直播预约丨《袋鼠云大数据实操指南》No.6:建设指标管理平台 解锁企业数据价值
    近年来,新质生产力、数据要素及数据资产入表等新兴概念犹如一股强劲的浪潮,持续冲击并革新着企业数字化转型的观念视野,昭示着一个以数据为核心驱动力的新时代正稳步启幕。面对这些引领经济转型的新兴概念,为了更好地服务于客户并提供切实可行的实践指导,自3月20日起,袋鼠云将推出全新《......
  • 数据库系统------关系数据模型
    关系数据模型先贴一张图,挺多不理解的,这里只解释一些我能理解的概念关系(表)关系:其实可以理解为二维表,就是我们平时常见的行列表,这个就是关系关系名:就是你这个二维表的名字,每个表都有唯一的名字关系模式:表头,就是表格的列名的集合,比如学生表有(学号,姓名,年龄,班级),学生表......
  • Ignite系列1-jdbc连接,建表,查询示例
    一、JDBC方式连接Ignite集群    通过JDBC方式连接Ignite集群,执行SQL进行见表,mergeinto插入数据,并执行结果查询示例如下:/***测试ignitejdbc连接,简单创建按一张表,插入一条数据,然后查询出来,并验证字段是否正确*@throwsClassNotFoundException*......
  • 【转】数据模型——从D模型到C/C'模型的浅谈
    数据模型——从D模型到C/C'模型的浅谈原文链接:https://zhuanlan.zhihu.com/p/521380989DSColloquium在DA和ML中寻找life的wisdom(真香~)​关注 15人赞同了该文章一、引言在日常企业运营和发展过程中,总会遇到这么一个情景:已有的业务系统的设计与实施......
  • 【Django开发】django美多商城项目完整开发4.0第10篇:收货地址,数据库建表【附代码文档
    本教程的知识点为:项目准备项目准备配置1.修改settings/dev.py文件中的路径信息2.INSTALLED_APPS3.数据库用户部分图片1.后端接口设计:视图原型2.具体视图实现用户部分使用Celery完成发送判断帐号是否存在1.判断用户名是否存在后端接口设计:用户部分JWT什......
  • mysql 8.0 的 建表 和八种 建表引擎实例
    文章目录MySQL8.0中,主要有以下八种常见的建表引擎一、InnoDB引擎建表注意点建表知识点二、MyISAM引擎建表使用场景三、Memory引擎使用场景四、Archive引擎五、BLACKHOLE引擎一、特点二、适用场景三、注意事项六、MRG_MyISAM引擎MRG_MyISAM和MyISAM的区别......