数据结构论坛

首页 » 分类 » 分类 » 为什么说Python大数据处理一定要用N
TUhjnbcbe - 2025/8/4 15:57:00

Numpy是Python科学计算的一个核心模块。它提供了非常高效的数组对象,以及用于处理这些数组对象的工具。一个Numpy数组由许多值组成,所有值的类型是相同的。

Python的核心库提供了List列表。列表是最常见的Python数据类型之一,它可以调整大小并且包含不同类型的元素,非常方便。

那么List和NumpyArray到底有什么区别?为什么我们需要在大数据处理的时候使用NumpyArray?答案是性能。

Numpy数据结构在以下方面表现更好:

1.内存大小—Numpy数据结构占用的内存更小。

2.性能—Numpy底层是用C语言实现的,比列表更快。

3.运算方法—内置优化了代数运算等方法。

下面分别讲解在大数据处理时,Numpy数组相对于List的优势。

1.内存占用更小

适当地使用Numpy数组替代List,你能让你的内存占用降低20倍。

对于Python原生的List列表,由于每次新增对象,都需要8个字节来引用新对象,新的对象本身占28个字节(以整数为例)。所以列表list的大小可以用以下公式计算:

64+8*len(lst)+len(lst)*28字节

而使用Numpy,就能减少非常多的空间占用。比如长度为n的Numpy整形Array,它需要:

96+len(a)*8字节

可见,数组越大,你节省的内存空间越多。假设你的数组有10亿个元素,那么这个内存占用大小的差距会是GB级别的。

2.速度更快、内置计算方法

运行下面这个脚本,同样是生成某个维度的两个数组并相加,你就能看到原生List和NumpyArray的性能差距。

importtimeimportnumpyasnpsize_of_vec=defpure_python_version():t1=time.time()X=range(size_of_vec)Y=range(size_of_vec)Z=[X+Yforiinrange(len(X))]returntime.time()-t1defnumpy_version():X=np.arange(size_of_vec)Y=np.arange(size_of_vec)Z=X+Yreturnt1=pure_python_version()t2=numpy_version()print(t1,t2)print("Numpyisinthisexample"+str(t1/t2)+"faster!")

结果如下:

0..Numpyisinthisexample1.faster!

可以看到,Numpy比原生数组快1.95倍。

如果你细心的话,还能发现,Numpyarray可以直接执行加法操作。而原生的数组是做不到这点的,这就是Numpy运算方法的优势。

我们再做几次重复试验,以证明这个性能优势是持久性的。

importnumpyasnpfromtimeitimportTimerX_list=range(size_of_vec)Y_list=range(size_of_vec)X=np.arange(size_of_vec)Y=np.arange(size_of_vec)def():Z=[X_list+Y_listforiinrange(len(X_list))]def():Z=X+Ytimer_obj1=Timer("pure_python_version()","from__main__importpure_python_version")timer_obj2=Timer("numpy_version()","from__main__importnumpy_version")print(timer_obj1.timeit(10))print(timer_obj2.timeit(10))#RunsFaster!print(timer_obj1.repeat(repeat=3,number=10))print(timer_obj2.repeat(repeat=3,number=10))#repeattoproveit!

结果如下:

0..[0.,0.,0.][6.e-05,2.e-05,2.e-05]

可以看到,第二个输出的时间总是小得多,这就证明了这个性能优势是具有持久性的。

所以,如果你在做一些大数据研究,比如金融数据、股票数据的研究,使用Numpy能够节省你不少内存空间,并拥有更强大的性能。

1