雷锋网AI科技评论按,一些小的技巧在编程领域可能会非常有用,在数据科学领域同样如此。数据科学爱好者ParulPandey在近日发表了一篇博文,分享了在数据科学中非常实用的10个小技巧。雷锋网AI科技评论将他的文章编译整理如下。
有时候,一点小小的黑客行为可以节省时间,挽救生命。一个小小的快捷方式或附加组件有时会被证明是天赐之物,并且可以真正提高生产力。所以,下面是我最喜欢的一些技巧,我以本文的形式一起使用和编译它们。其中,有些可能是相当有名的,有些可能是新的,但我相信下次您从事数据分析项目时,它们会非常有用。
1.Profilingthepandasdataframe
Profiling是一个帮助我们理解数据的程序,而PandasProfiling正是实现这一点的一个python包。这是对pandas数据帧进行探索性数据分析的一种简单快速的方法。pandasdf.describe()和df.info()函数通常用作EDA过程的第一步。但是,它只提供了非常基本的数据概述,对于大型数据集没有太大帮助。另一方面,pandas分析函数使用df.profile_report()扩展pandas数据帧,以便快速进行数据分析。它用一行代码显示了大量信息,在交互式HTML报告中也显示了这些信息。
对于给定的数据集,pandas分析包计算以下统计信息:
PandasProfiling包计算统计信息
安装
pipinstallpandas-profilingorcondainstall-canacondapandas-profiling
使用
让我们使用古老的Titanic数据集来演示通用的Python分析器的功能。
#importingthenecessarypackagesimportpandasaspdimportpandas_profiling#Depreciated:pre2.0.0versiondf=pd.read_csv(titanic/train.csv)pandas_profiling.ProfileReport(df)
注:在这篇文章发表一周后,Pandas-Profiling发布了一个升级版本2.0.0。其语法发生了一些变化,事实上,功能已经包含在pandas中,报告也变得更加全面。以下是最新的语法用法:
使用
要在Jupyternotebook中显示报告,请运行:
#Pandas-Profiling2.0.0df.profile_report()
这一行代码就是在Jupyternotebook中显示数据分析报告所需的全部代码。报告非常详细,必要时包括图表。
还可以将报告导出到具有以下代码的交互式HTML文件中。
profile=df.profile_report(title=PandasProfilingReport)profile.to_file(outputfile=Titanicdataprofiling.html)
有关更多详细信息和示例,请参阅这个文档。
2.第二步,为pandasplots带来交互性
pandas有一个内置的.plot()函数作为数据帧类的一部分。然而,用这个函数呈现的可视化并不是交互式的,这使得它不那么吸引人。相反,也不能排除使用pandas.dataframe.plot()函数绘制图表的易用性。如果我们不需要对代码进行重大修改,就可以像绘制pandasplots那样绘出交互式图表呢?你可以在Cufflinks库的帮助下做到这一点。
Cufflinks将plotly的力量与pandas的灵活性结合起来,便于绘制。现在让我们来看看如何安装这个库并让它在pandas中工作。
安装
pipinstallplotly#Plotlyisapre-requisitebeforeinstallingcufflinkspipinstallcufflinks
使用
#importingPandasimportpandasaspd#importingplotlyandcufflinksinofflinemodeimportcufflinksascfimportplotly.offlinecf.go_offline()cf.set_config_file(offline=False,world_readable=True)
是时候用Titanic数据集来展示它的魔法了。
df.iplot()
df.iplot()vsdf.plot()
右视图显示的是静态图表,左图表是交互式的,更详细地说,所有这一切在语法上都没有重大变化。
点击这里获取更多的示例。
3.一点点Magic
Magic命令是Jupyternotebook中的一组方便的函数,旨在解决标准数据分析中的一些常见问题。在%lsmagic的帮助下,您可以看到所有可用的magic。
所有可用的magic函数列表
magic命令有两种:行magics(前缀为一个%字符并在一行输入上操作)和单元magics(用%%前缀关联并在多行输入上操作)。如果设置为1,则可以调用magic函数,而无需键入初始百分比。
让我们看看其中一些在常见数据分析任务中可能有用的功能:
%pastebin
%Pastebin将代码上载到Pastebin并返回URL。Pastebin是一种在线内容托管服务,我们可以在其中存储纯文本(如源代码片段),然后可以与其他人共享URL。事实上,Githubgist也类似于Pastebin,尽管有版本控制。
考虑使用包含以下内容的pythonscriptfile.py:
#file.pydeffoo(x):returnx
使用Jupyternotebook中的%pastebin生成pastebinurl
%matplotlibnotebook
%matplotlibinline函数用于呈现Jupyternoteboo中的静态matplotlib绘图。尝试用notebook替换内嵌部件,以轻松获得可缩放和可调整大小的绘图。确保在导入Matplotlib库之前调用了函数。
%matplotlibinlinevs%matplotlibnotebook
%run
%run函数在notebook内运行python脚本。
%runfile.py
%%writefile
%WriteFile将单元格的内容写入文件。在这里,代码将被写入一个名为foo的文件,并保存在当前目录中。
%%latex
%%latex函数将单元格内容呈现为LaTeX。它可用于在单元中编写数学公式和方程。
4.发现和消除错误
interactivedebugger也是一个神奇的函数,但我已经为它提供了自己的一个类别。如果在运行代码单元时遇到异常,请在新行中键入%debug并运行它。这将打开一个交互式调试环境,将您带到发生异常的位置。您还可以检查程序中分配的变量值,并在此处执行操作。要退出调试器,请单击q。
5.输出也可以很漂亮
如果您想为数据结构生成美观的表示,pprint是你想要的模块,它在打印字典或JSON数据时特别有用。让我们来看一个使用print和pprint显示输出的示例。
6.突出报警框
我们可以在您的Jupyter笔记本中使用警告/注释框来突出显示重要的内容或任何需要突出显示的内容。注释的颜色取决于警报的类型。只需在需要突出显示的单元格中添加以下代码。
蓝色警报框:信息提示
divclass=alertalert-blockalert-infobTip:/bUseblueboxes(alert-info)fortipsandnotes.Ifit』sanote,youdon』thavetoincludetheword「Note」./div
黄色警报框:警告
divclass=alertalert-blockalert-warningbExample:/bYellowBoxesaregenerallyusedtoincludeadditionalexamplesormathematicalformulas./div
绿色警报框:成功
divclass=alertalert-blockalert-successUsegreenboxonlywhennecessaryliketodisplaylinkstorelatedcontent./div
红色警报框:危险
divclass=alertalert-blockalert-dangerItisgoodtoavoidredboxesbutcanbeusedtoalertuserstonotdeletesomeimportantpartofcodeetc./div
7.打印单元格的所有输出
考虑一个包含以下代码行的Jupyternotebook单元:
In[1]:10++6
Out[1]:17
通常情况下,单元格中只有最后一个输出会被打印出来,对于其他输出,我们需要添加print()函数。好吧,其实我们只需在notebook顶部添加以下代码片段就可以打印所有输出。
fromIPython.core.interactiveshellimportInteractiveShellInteractiveShell.ast_node_interactivity=all
现在所有的输出都被一个接一个地打印出来
In[1]:10+++7
Out[1]:15Out[1]:17Out[1]:19
要恢复到原始设置:
InteractiveShell.ast_node_interactivity=last_expr
8.使用「i」文件运行python脚本
从命令行运行python脚本的一种典型方法是:pythonhello.py。但是,如果您在运行同一脚本(如python)时添加了一个额外的-ihello.py,那么它提供了更多的优势。让我们看看怎么做。
首先,只要程序不结束,python就不会退出解释器。因此,我们可以检查变量的值以及程序中定义的函数的正确性。
其次,我们可以通过以下方式轻松调用Python调试器,因为我们仍在解释器中:
importpdbpdb.pm()
这将使我们进入异常发生的位置,然后我们可以处理代码。
查看来源可以点击这里。
9.自动注释代码
ctrl/cmd+/自动将单元格中选定的行注释掉,再次点击组合将取消对同一行代码的注释。
10.删除容易恢复难
你有没有不小心删除了Jupyternotebook上的一个单元的经历?如果有,那么这里有一个快捷方式可以撤消删除操作。
如果删除了单元格的内容,则可以通过按ctrl/cmd+z轻松恢复该内容。
如果需要恢复整个已删除单元格,请按Esc+Z或EDITUndo撤销删除单元格。
结论
在本文中,我列出了在使用Python和Jupyternotebook时收集到的主要技巧。我相信它们会对你有用,你会从这篇文章中收回一些东西。好了,开始快乐的编码之旅吧!.
via: