什么是 k-means 聚类算法? - 中国搜索技术门户

推荐给好友 上一篇 | 下一篇

什么是 k-means 聚类算法?

本站欢迎转载,但任何媒体、网站或个人转载使用时请注明来源:中国搜索门户http://www.cnsousuo.com/viewnews-1252

【中国搜索门户讯】
输入:聚类个数k,以及包含 n个数据对象的数据库。

输出:满足方差最小标准的k个聚类。

处理流程:       

(1)  从 n个数据对象任意选择 k 个对象作为初始聚类中心;

(2)  循环(3)到(4)直到每个聚类不再发生变化为止

(3)  根据每个聚类对象的均值(中心对象),计算每个对象与这些中心对象的距离;并根据最小距离重新对相应对象进行划分;

(4)  重新计算每个(有变化)聚类的均值(中心对象)

k-means 算法接受输入量 k ;然后将n个数据对象划分为 k个聚类以便使得所获得的聚类满足:同一聚类中的对象相似度较高;而不同聚类中的对象相似度较小。聚类相似度是利用各聚类中对象的均值所获得一个“中心对象”(引力中心)来进行计算的。

k-means 算法的工作过程说明如下:首先从n个数据对象任意选择 k 个对象作为初始聚类中心;而对于所剩下其它对象,则根据它们与这些聚类中心的相似度(距离),分别将它们分配给与其最相似的(聚类中心所代表的)聚类;然后再计算每个所获新聚类的聚类中心(该聚类中所有对象的均值);不断重复这一过程直到标准测度函数开始收敛为止。一般都采用均方差作为标准测度函数. k个聚类具有以下特点:各聚类本身尽可能的紧凑,而各聚类之间尽可能的分开。
 

从网上找到了很多定义,这里选取比较典型的几个;

 K-Mean分群法是一种分割式分群方法,其主要目标是要在大量高纬的资料点中找出

      具有代表性的资料点;这些资料点可以称为群中心,代表点;然后再根据这些

       群中心,进行后续的处理,这些处理可以包含

  1)资料压缩:以少数的资料点来代表大量的资料,达到资料压缩的功能;

  2)资料分类:以少数代表点来代表特点类别的资料,可以降低资料量及计算量;

 

      分割式分群法的目的是希望盡量減小每個群聚中,每一點與群中心的距離平方差(square error)。 

 假設我們現在有一組包含c個群聚的資料,其中第k個群聚可以用集合Gk來表示,假設Gk包含nk

 資料{x1, x2, …, xnk),此群聚中心為yk,則該群聚的平方差ek可以定義為:

            ek=Si|xi-yk|2,其中xi是屬於第k群的資料點。

 而這c個群聚的總和平方差E便是每個群聚的平方差總和:

E =Sk=1~cek

 我們分群的方法,就變成是一個最佳化的問題,換句話說,我們要如何選取c個群聚以及相關的群中心,

 使得E的值為最小。

 

2.处理流程

1 c个数据对象任意选择k个对象作为初始聚类中心;
2 循环(3)到(4)直到每个聚类不再发生变化为止;
3 根据每个聚类对象的均值(中心对象),计算每个对象与这些中心对象的距离;并根据最小距离重新对相应对象进行划分;
4 重新计算每个(有变化)聚类的均值(中心对象)

 

 

3. java算法的实现说明

 1)假设给点一组c点资料X = {x1, ..., xc},每一点都有d维;给定一个群聚的数目k,求其

    最好的聚类结果。

 2BasicKMeans.java主类

        int coordCount = 250;//原始的资料个树

       int dimensions = 100;//每个资料的纬度数目

       double[][] coordinates = new double[coordCount][dimensions];

  这里假设c点资料为coordinates对象,其中ccoordCount,ddimensions相应值。

        int mk = 30; //想要群聚的数目

   根据群聚数目定义mk个群聚类对象

      mProtoClusters = new ProtoCluster[mK];//ProtoCluster类说明

   //首先随机选取mk个原始资料点作为群聚类

     mProtoClusters[i]= new ProtoCluster (coordinates[j] );//i依此为0mk的值;j0coordCount的值

  定义一个变量用于记录和跟踪每个资料点属于哪个群聚类

    mClusterAssignments = new int[coordCount];

    mClusterAssignments[j]=i;//表示第j个资料点对象属于第i个群聚类

   //开始循环

  •   //依次调用计算每个群聚类的均值

   mProtoClusters[i].updateCenter(mCoordinates);//计算第i个聚类对象的均值

 

  •   //依次计算每个资料点到中心点的距离,然后根据最小值划分到相应的群集类中;

  采用距离平方差来表示资料点到中心点的距离;

   //定义一个变量,来表示资料点到中心点的距离

   mDistanceCache = new double[coordCount][mk];

    //其中mDistanceCache[i][j]表示第i个资料点到第j个群聚对象中心点的距离;

    //距离算法描述():

    a)依次取出每个资料点对象double[] coord =coordinates[i];

        b)再依次取出每个群聚类中的中心点对象double[] center =mProtoClusters[j].mCenter;

        c)计算coord对象与center对象之间的距离 

     double distance(double[] coord, double[] center) {
        int len = coord.length;
        double sumSquared = 0.0;
        for (int i=0; i<len; i++) {
            double v = coord[i] - center[i];
            sumSquared += v*v; //平方差
        }
        return Math.sqrt(sumSquared);
      } 

     d)循环执行上面的流程,把结果记录在mDistanceCache[i][j]中;

  •       //比较出最小距离,然后根据最小距离重新对相应对象进行划分

     依次比较每个资料点的 最短中心距离,
      int nearestCluster(int ndx) {
        int nearest = -1;
        double min = Double.MAX_VALUE;  
        for (int c = 0; c < mK; c++) {
                double d = mDistanceCache[ndx][c];
                if (d < min) {
                    min = d;
                    nearest = c;
                }          
           }
        return nearest;
       }
  该方法返回该资料点对应的最短中心距离的群聚类的索引值;
  比较每个 nearestCluster[coordCount] 的值和mClusterAssignments[coordCount]
  的值是否相等,如果全相等表示所有的点已经是最佳距离了,直接返回;
  否则需要重新调整资料点和群聚类的关系,调整完毕后再重新开始循环;

  调整时需要更新下列数据:

    a)更新mProtoClusters[i]中的mCurrentMembership集合;

      b)更新mClusterAssignments[i]中对应的值;

   然后重行开始循环

  3ProtoCluster.java是一个包含代表点的群聚类,该类有两个最主要的属性"代表点"和"群中心";

       int[] mCurrentMembership;//用于表示每个群聚包含的数据资料点集合

       double[] mCenter;//用于表示每个聚类对象的均值,也就是中心对象

       void updateCenter(double[][] coordinates) {

      //该方法计算聚类对象的均值;

       //根据mCurrentMembership取得原始资料点对象coord,该对象是coordinates的一个子集;然后取出该子集的均值;

    取均值的算法很简单,可以把coordinates想象成一个m*n的距阵,每个均值就是每个纵向列的取和平均值,该值保

    存在mCenter

      for (int i=0; i< mCurrentMembership.length; i++) {

              double[] coord = coordinates[mCurrentMembership[i]];

              for (int j=0; j<coord.length; j++) {

                       mCenter[j] += coord[j];//得到每个纵向列的和;

              }

               for (int i=0; i<mCenter.length; i++) {

                   mCenter[i] /= mCurrentSize; //对每个纵向列取平均值

              }

           } 



TAG: 聚类 k-means
 

评分:0

我来说两句

seccode