“可视化”的数据分析落伍了?

时间:2019-09-21 08:00:02 来源:阜宁热线 当前位置:飞扬谈社会 > 绘画 > 手机阅读

作为一名程序员兼职业余空间数据分析师,空间数据的处理一直是一抹挥之不去的乌云。虽然GIS软件可视化的操作界面、包罗万象的功能,已经能解决日常工作中几乎所有问题,但对于身为程序员的我来说,一切不能用键盘上26个字母解决的问题,都是不科学的~所以这些年我一直致力于思考一个问题,如何把Arcgis的功能,用代码的方式实现


我了解到,Geopandas是一个极好的工具,今天我们就以一个案例来管窥一二。



 数据准备&任务明确



我有一张上海的街镇地图,一份上海的房源数据和一份上海餐厅数据。

 

今天,我们需要制作每一个房源的1KM缓冲区,计算缓冲区内有多少家餐厅,并且计算上海每个街镇内有多少家餐厅,然后绘制在地图上展示


这是一个理论上简单但操作繁琐的过程,有些同学可能已经知道GIS的操作:


导入地图数据——导入两份EXCEL——并关联经纬度——获得点数据——并保存点数据图层——然后对房源点数据进行缓冲区制作——保存缓冲区图层——分别使用空间关联把餐厅数据关联到上海街镇和房源缓冲区图层中——并分别保存图层……


好了好了,我已经说不下去了,我们来看看代码怎么解决吧~

 


 导入数据 



先导入各种包


import pandas as pd
import geopandas as gpd
from shapely import geos
from shapely.geometry import Point
import fiona
import matplotlib.pyplot as plt
from fiona.crs import from_epsg,from_string


我们来观察下python中用到的地理处理工具包的名字:Geopandas. 顾名思义,这个包可以让我们像使用pandas一样处理地理数据,大家可以想象一下这过程,一定如丝般顺滑!


Geopandas其实是各种地理数据分析包的集大成者,包括shapely,Fiona等,当然还有数据分析相关的包numpy,pandas,所以,在这些提及的包中的功能,都可以混合使用,切换不留痕迹。这里就一并导入了。

 

导入地图shp


shanghai_map = gpd.GeoDataFrame.from_file('./上海街镇/上海街镇.shp') #读取shapfile数据为geodataframe格式


Geopandas提供了一种数据格式叫GeoDataFrame,用直白的话概括就是DataFrame加了一列数据,表达地理信息。导入功能Geopandas底层调用的是Fiona包,所以,一些基本参数和可以导入的数据格式,可以参考Fiona的说明文档。


 

查看导入后的数据



和DataFrame如出一辙,但多了一列Geometry来存放地理信息,绘图看一下


嗯!是长这样!

 

接下来,导入房源和餐厅数据


 *这两份数据是CSV格式,导入成DataFrame,我们发现数据中含有经纬度字段,我们可以根据这两个字段,也把数据转换成GeoDataFrame格式


通过经纬度转换点数据:


def point_to_geo(df,lon,lat):
    df['geometry'] = gpd.GeoSeries(list(zip(df[lon],df[lat]))).apply(Point) #识别经纬度,转换点数据
    df = gpd.GeoDataFrame(df) #转换Geodataframe格式
    df.crs = {'init':'epsg:4326'#定义坐标系WGS84
    del df[lon]
    del df[lat]
    return df


house_data = point_to_geo(house_data,'lon_WGS','lat_WGS'#转换Geodataframe格式
restaurant_data = point_to_geo(restaurant_data,'lon_WGS','lat_WGS'#转换Geodataframe格式

 

*官方文档请看这里:


绘图,看看成功与否——以上海街镇为底图,两份点数据叠加在底图上


base = shanghai_map.plot(color='lightyellow',edgecolor='black',figsize=(1515)) #画底图
restaurant_data.plot(ax=base,marker='o', color='green', markersize=5#在底图上叠加餐厅点数据
house_data.plot(ax=base,marker='o', color='red', markersize=5#在底图上叠加房源点数据
plt.gca().xaxis.set_major_locator(plt.NullLocator())#去掉x轴刻度
plt.gca().yaxis.set_major_locator(plt.NullLocator())#去掉y轴刻度
plt.savefig('./map.png',dpi=400#保存图片

*这里设置下图形的基本参数,画图功能是基于matplotlib,所以它的一些写法和功能是通用的。

 

 显示OK,那么就进入核心环节~



 分析过程 



在制作缓冲区和空间关联之前,先需要对图形进行投影变换,这里仍然写一个函数:


def wgs84_to_CGCS2000(df,code):
    result = df.to_crs(from_epsg(code))
    return result

shanghai_map_pcs = wgs84_to_CGCS2000(shanghai_map,4549)
house_data_pcs = wgs84_to_CGCS2000(house_data,4549)
restaurant_data_pcs = wgs84_to_CGCS2000(restaurant_data,4549)

 *只要知道投影坐标系的ESPG代码,就可以任意转换,我们使用GSC2000坐标系。

 

接着,构建缓冲区图层,使用buffer()方法,参数为缓冲区的半径


house_data_buffer = house_data_pcs.buffer(1000#建立一公里缓冲区

base = shanghai_map_pcs.plot(color='lightyellow',edgecolor='black',figsize=(1515))
house_data_buffer.plot(ax=base,color='gray', markersize=5,alpha=0.5)
plt.gca().xaxis.set_major_locator(plt.NullLocator()) #去掉x轴刻度
plt.gca().yaxis.set_major_locator(plt.NullLocator()) #去年y轴刻度
plt.savefig('./map2.png',dpi=400#保存图片


构建完成,同样输出成地图查看效果

增加了透明度,我们可以看到市中心的房源密度较高。生成的数据为GeoSeries,数据为缓冲区的地理信息。这里需要使用任意方法把地理信息和其他字段匹配在一起。

buffer_temp = house_data_pcs[['name','geometry']]
buffer_temp['geometry'] = house_data_buffer
house_data_buffer = buffer_temp

 

下面,我们使用空间关联,连接餐厅点数据,并获取餐厅的个数。


spacial_join_restaurant = gpd.sjoin(house_data_buffer,restaurant_data_pcs,how='left',op='contains'#空间连接
spacial_join_restaurant = spacial_join_restaurant.groupby(['name']).count()['title'].to_frame().reset_index() #聚合计算个数
spacial_join_restaurant.columns = ['name','restaurant_count'#更改列名,方便操作
buffer_result = pd.merge(house_data_pcs,spacial_join_restaurant,left_on='name',right_on='name',how='left'#字段匹配

 *方法是sjoin(),功能和GIS相同,分相交,包含和被包含三种。我们使用包含进行连接,并使用pandas的groupby()方法分组计数。



这样我们就完成了空间关联和计算,我们可以使用地图显示,并添加图例:


base = shanghai_result.plot(column='restaurant_count', cmap='Oranges',scheme = 'fisher_jenks'
                             ,legend=True,edgecolor='black',figsize=(1515)) #按个数多少叠加底色
plt.gca().xaxis.set_major_locator(plt.NullLocator()) #去掉x轴刻度
plt.gca().yaxis.set_major_locator(plt.NullLocator()) #去年y轴刻度
plt.savefig('./map3.png',dpi=400#保存图片

 

这样就可以绘制出以街镇为单位的点密度图:

最后,我们需要把数据导出保存。我们可以保存为shapfile格式,这里推荐大家直接保存为csv格式,方便分享。也可以根据需要,转成任意格式。


shanghai_result = wgs84_to_CGCS2000(shanghai_result,4326#转换成地理坐标系
shanghai_result.columns = ['town','region','geometry','restaurant_count'#更改列名为英文,因为数据保存对中文支持不佳
buffer_result = wgs84_to_CGCS2000(buffer_result,4326#转换成地理坐标系

shanghai_result.to_csv('./result/shanghai_result.csv'#保存成csv
shanghai_result.to_file('./result/shanghai_result.shp'#保存成shapfile
buffer_result.to_csv('./result/buffer_result.csv'#保存成csv
buffer_result.to_file('./result/buffer_result.shp'#保存成shapfile

 



 结果检查 



我们把保存的数据导入Arcgis,可以正常使用~太棒了!


 

是不是很实用呢?所以,对于空间数据分析中一些重复操作,工程化的作业,建议大家可以考虑用代码实现,高效,便捷。


作者简介:本文作者数据侠倪家禹,城市数据团特约撰稿人,数据分析师(Python)微专业学员,喜欢用数据挖掘生活中的小秘密。对数据研究有着敏锐的洞察力,善于把复杂的问题简单化,简单的问题流程化。希望大家通过数据感受生活的魅力。

声明:本文为作者投稿,版权归其个人所有。




 热 文 推 荐  

☞ 「傻瓜」才能写出好代码!

☞ 漫画 | 从搬家到容器技术 Docker 应用场景解析

☞ Hacker News 12 月招聘趋势:React 已连续霸榜 19 个月

☞ 从倾家荡产到身价百亿,这个85后只用了8年

☞ 难逃寒冬裁员的“大追杀”,30 岁女码农该何去何从?

上一篇深度分析:2019商场餐饮如何做才能赚钱!

下一篇分析自己,是变强的必经过程:心率(1)

相关文章:

绘画本月排行

绘画精选