• 功能介绍
  • 脚本示例
    • 脚本代码
    • 脚本运行结果
      • 模型结果
      • 预测结果

    功能介绍

    KMeans 是一个经典的聚类算法。

    基本思想是：以空间中k个点为中心进行聚类，对最靠近他们的对象归类。通过迭代的方法，逐次更新各聚类中心的值，直至得到最好的聚类结果。

    名称 中文名称 描述 类型 是否必须？ 默认值
    distanceType 距离度量方式 聚类使用的距离类型，支持EUCLIDEAN（欧式距离）和 COSINE（余弦距离） String “EUCLIDEAN”
    vectorCol 向量列名 向量列对应的列名 String ✓
    maxIter 最大迭代步数 最大迭代步数，默认为 20。 Integer 20
    initMode 中心点初始化方法 初始化中心点的方法，支持”K_MEANS_PARALLEL”和”RANDOM” String “K_MEANS_PARALLEL”
    initSteps k-means++初始化迭代步数 k-means初始化中心点时迭代的步数 Integer 2
    k 聚类中心点数量 聚类中心点数量 Integer 2
    epsilon 收敛阈值 当两轮迭代的中心点距离小于epsilon时，算法收敛。 Double 1.0E-4

    脚本示例

    脚本代码

    1. import numpy as np
    2. import pandas as pd
    3. data = np.array([
    4.     [0, "0 0 0"],
    5.     [1, "0.1,0.1,0.1"],
    6.     [2, "0.2,0.2,0.2"],
    7.     [3, "9 9 9"],
    8.     [4, "9.1 9.1 9.1"],
    9.     [5, "9.2 9.2 9.2"]
    10. ])
    11. df = pd.DataFrame({"id": data[:, 0], "vec": data[:, 1]})
    12. inOp1 = BatchOperator.fromDataframe(df, schemaStr='id int, vec string')
    13. inOp2 = StreamOperator.fromDataframe(df, schemaStr='id int, vec string')
    14. kmeans = KMeansTrainBatchOp().setVectorCol("vec").setK(2)
    15. predictBatch = KMeansPredictBatchOp().setPredictionCol("pred")
    16. kmeans.linkFrom(inOp1)
    17. predictBatch.linkFrom(kmeans, inOp1)
    18. [model,predict] = collectToDataframes(kmeans, predictBatch)
    19. print(model)
    20. print(predict)
    22. predictStream = KMeansPredictStreamOp(kmeans).setPredictionCol("pred")
    23. predictStream.linkFrom(inOp2)
    24. predictStream.print(refreshInterval=-1)
    25. StreamOperator.execute()

    脚本运行结果

    模型结果
    1. model_id                                         model_info
    2. 0         0  {"vectorCol":"\"vec\"","latitudeCol":null,"lon...
    3. 1   1048576  {"clusterId":0,"weight":6.0,"vec":{"data":[9.0...
    4. 2   2097152  {"clusterId":1,"weight":6.0,"vec":{"data":[0.1...
    预测结果
    1. rowID   id          vec  pred
    2. 0   0        0 0 0     1
    3. 1   1  0.1,0.1,0.1     1
    4. 2   2  0.2,0.2,0.2     1
    5. 3   3        9 9 9     0
    6. 4   4  9.1 9.1 9.1     0
    7. 5   5  9.2 9.2 9.2     0