• 功能介绍
  • 参数说明
  • 脚本示例
    • 脚本代码
    • 脚本运行结果

    功能介绍

    Tokenizer(标记器)是将文本（如句子）分解成单个词语（通常是单词）的过程。

    参数说明

    名称 中文名称 描述 类型 是否必须？ 默认值
    selectedCol 选中的列名 计算列对应的列名 String ✓
    outputCol 输出结果列 输出结果列列名，可选，默认null String null
    reservedCols 算法保留列名 算法保留列 String[] null

    脚本示例

    脚本代码

    1. import numpy as np
    2. import pandas as pd
    4. data = np.array([
    5.     [0, 'That is an English Book!'],
    6.     [1, 'Do you like math?'],
    7.     [2, 'Have a good day!']
    8. ])
    10. df = pd.DataFrame({"id": data[:, 0], "text": data[:, 1]})
    11. inOp1 = dataframeToOperator(df, schemaStr='id long, text string', op_type='batch')
    13. op = Tokenizer().setSelectedCol("text")
    14. op.transform(inOp1).print()

    脚本运行结果

    1.     id    text
    2. 0    1    do you like math?
    3. 1    0    that is an english book!
    4. 2    2    have a good day!