MySQL MaxCompute与AnalyticDB实现数据处理与转换过程

共计 2132 个字符，预计需要花费 6 分钟才能阅读完成。

odps 中行转列函数 wm_concat，将列信息转成行显示，可指定分隔符。

语法格式

wm_concat(separator, string)，其中 separator 为分隔符，支持字符串去重，即 distinct.

select wm_concat('|',sku_id)
from t_business_order_odps
where
create_time >= '2022-09-30 00:00:00';

ads 中行转列函数 group_concat，即将列信息转成行显示，默认逗号分隔。如在 mysql 中查询表的所有列名。

select group_concat(COLUMN_NAME)
from information_schema.COLUMNS
where
TABLE_NAME = 't_business_order';

odps 中判空函数 coalesce，如若无运费，则显示为 0。

select coalesce(freight_amount,0)
from t_business_order_odps
where
create_time >= '2022-09-30 00:00:00';

odps 中判断函数 decode，如若无运费，则显示为 0。

语法格式

decode(expression, search, result[, search, result]…[, default])

表示：三元运算符，即实现 IF-THEN-ELSE 分支选择的功能

select decode(order_amount,freight_amount,0)
from t_business_order_odps
where
create_time >= '2022-09-30 00:00:00';

ads 中判空函数 ifnull，如若无运费，则显示为 0。

select ifnull(freight_amount,0)
from t_business_order
where
create_time >= '2022-09-30 00:00:00';

odps 中 时间字段类型为 datetime，获取当前时间函数为 getdate()。

select coalesce(freight_amount,0),getdate() as etl_time
from t_business_order_odps
where
create_time >= '2022-09-30 00:00:00';

ads 中时间字段类型为 timestamp，获取当前时间函数为 now()。

select ifnull(freight_amount,0),now() as etl_time
from t_business_order
where
create_time >= '2022-09-30 00:00:00';

odps 中 字符串字段类型为 string，时间字段类型为 datetime。

CREATE TABLE t_business_order_odps (
    prov_name string COMMENT '省名称',
    city_name string COMMENT '地市名',
    cty_name string COMMENT '区县名称',
    order_no string COMMENT '订单号',
    order_amount bigint COMMENT '运费',
    freight bigint COMMENT '运费',
    insert_month bigint COMMENT '插入月份',
    created_time datetime COMMENT '创建时间'
)
COMMENT ' 业务订单主表;

ads 中字符串字段类型为 varchar，时间字段类型为 timestamp。

CREATE TABLE t_business_orde (
    prov_name varchar COMMENT '省名称',
    city_name varchar COMMENT '地市名',
    cty_name varchar COMMENT '区县名称',
    order_no varchar COMMENT '订单号',
    order_amount bigint COMMENT '运费',
    freight bigint COMMENT '运费',
    insert_month bigint COMMENT '插入月份',
    created_time timestamp COMMENT '创建时间'
)
PARTITION BY HASH KEY (order_no) PARTITION NUM 128
TABLEGROUP ads_sc_rpt
OPTIONS (UPDATETYPE='batch')
COMMENT '业务订单主表';

知识梳理

OPTIONS 类型有两种

1）batch 批量表，即数据批量入库，适用于从 odps 同步到 ads；

2）realtime 实时表，即数据单条入库，适用于日志等信息单条入库。

阿里云 2 核 2G 服务器 3M 带宽 61 元 1 年，有高配

腾讯云新客低至 82 元 / 年，老客户 99 元 / 年

代金券：在阿里云专用满减优惠券