sparkでKmeansクラスタリングを実行しようとしていますが、例外が発生しています。

Question

**Python Version = 2.6.6** 

**numpy version = 1.3.0** 

**** The python file dokmeans.py is located in /home/cloudera**** 






Welcome to 
      ____    __ 
     /__/__ ___ _____/ /__ 
     _\ \/ _ \/ _ `/ __/ '_/ 
     /__/.__/\_,_/_/ /_/\_\ version 1.3.0 
      /_/ 

    Using Python version 2.6.6 (r266:84292, Feb 22 2013 00:00:18) 
    SparkContext available as sc, HiveContext available as sqlCtx. 
    >>> exec(open('dokmeans.py').read()) 
    Traceback (most recent call last): 
     File "<stdin>", line 1, in <module> 
     File "<string>", line 5, in <module> 
     File "/usr/lib/spark/python/pyspark/mllib/__init__.py", line 26, in <module> 
     raise Exception("MLlib requires NumPy 1.4+") 
    Exception: MLlib requires NumPy 1.4+ 
    >>> from pyspark.mllib.clustering import KMeans,KMeansModel 
    Traceback (most recent call last): 
     File "<stdin>", line 1, in <module> 
     File "/usr/lib/spark/python/pyspark/mllib/__init__.py", line 26, in <module> 
     raise Exception("MLlib requires NumPy 1.4+") 
    Exception: MLlib requires NumPy 1.4+ 

Answer 1

エラーコードにはすべてが記載されています。 MLlibを使用するには、numpy 1.4をインストールする必要があります。 1.3がインストールされています。

Answer 2

mllibコードにはnumpyのバージョンが正しく解釈されないバグがあります。 1.10を1.1と解釈するので、numpyバージョンのチェックは失敗します。

**if numpy.version.version < '1.4':** 
raise Exception("MLlib requires NumPy 1.4+") 

へ：

ver = [int(x) for x in numpy.version.version.split('.')[:2]] 
if ver < [1, 4]: 
    raise Exception("MLlib requires NumPy 1.4+") 

以下のファイル は/ usr/libに/火花/パイソン/ pyspark/mllib/のinitの.py

からのコードを変更してください。