使用Python分析网易云歌曲评论信息,通过可视化处理我发现了这些有趣的规律

Python爬虫与数据挖掘

共 5647字,需浏览 12分钟

 · 2022-01-11

点击上方“Python爬虫与数据挖掘”,进行关注

回复“书籍”即可获赠Python从入门到进阶共10本电子书

为有云屏无限娇,凤城寒尽怕春宵。

大家好,我是Python进阶者。

前言

前几天有个学生娃子找我帮忙做点可视化的作业,作业内容包括采集网易云音乐热评评论内容,数据量1W作业足够,然后就是做点数据分析相关的工作即可。这份大作业里边有网络爬虫,有数据分析和数据处理,还有可视化,算是一个大实验了,还需要上交实验报告。这里拿出来部分知识点,给大家分享。学生娃的作业,参考了这个文章:网易云音乐评论爬取

数据来源

首先是数据来源,来自网易云音乐热评,代码这里就不放出来了,调用了API获取的,抓取难度就少了许多,这里不在赘述了。

分析过程

时间处理

下面的代码主要是评论时间分布,主要是针对时间列做了数据处理,常规操作,你也对照的去以日期和月份去挖掘下有意思的事情。

import pandas as pd
from pyecharts import Line

# 读取数据
df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig')
# 根据评论ID去重
df = df.drop_duplicates('commentid')
df = df.dropna()
# 获取时间
df['time'] = [int(i.split(' ')[1].split(':')[0]) for i in df['date']]

# 分组汇总
date_message = df.groupby(['time'])
date_com = date_message['time'].agg(['count'])
date_com.reset_index(inplace=True)

# 绘制走势图
attr = date_com['time']
v1 = date_com['count']
line = Line("歌曲被爆抄袭后-评论的时间分布", title_pos='center', title_top='18', width=800, height=400)
line.add("", attr, v1, is_smooth=True, is_fill=True, area_color="#000", is_xaxislabel_align=True, xaxis_min="dataMin", area_opacity=0.3, mark_point=["max"], mark_point_symbol="pin", mark_point_symbolsize=55)
line.render("歌曲被爆抄袭后-评论的时间分布.html")

运行之后,得到的效果图如下所示:

可以看到评论的小伙伴喜欢在下午临近下班和晚上的时候进行评论。

用户评论数量

代码和上面差不多,只需要更改下数据即可。

import pandas as pd

# 读取数据
df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig')
# 根据评论ID去重
df = df.drop_duplicates('commentid')
df = df.dropna()
# 分组汇总
user_message = df.groupby(['userid'])
user_com = user_message['userid'].agg(['count'])
user_com.reset_index(inplace=True)
user_com_last = user_com.sort_values('count', ascending=False)[0:10]
print(user_com_last)

运行之后,得到的结果如下所示:

可以看到有忠粉,狂粉,评论数据上百,恐怖如斯。

评论词云

词云这个老生常谈了,经常做,直接套用模板,改下底图即可,代码如下:

from wordcloud import WordCloud
import matplotlib.pyplot as plt
import pandas as pd
import random
import jieba


# 设置文本随机颜色
def random_color_func(word=None, font_size=None, position=None, orientation=None, font_path=None, random_state=None):
    h, s, l = random.choice([(188, 72, 53), (253, 63, 56), (12, 78, 69)])
    return "hsl({}, {}%, {}%)".format(h, s, l)


# 读取信息
df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig')
# 根据评论ID去重
df = df.drop_duplicates('commentid')
df = df.dropna()
words = pd.read_csv('chineseStopWords.txt', encoding='gbk', sep='\t', names=['stopword'])
# 分词
text = ''
for line in df['comment']:
    text += ' '.join(jieba.cut(str(line), cut_all=False))
# 停用词
stopwords = set('')
stopwords.update(words['stopword'])
backgroud_Image = plt.imread('music.jpg')

wc = WordCloud(
    background_color='white',
    mask=backgroud_Image,
    font_path='FZSTK.TTF',
    max_words=2000,
    max_font_size=250,
    min_font_size=15,
    color_func=random_color_func,
    prefer_horizontal=1,
    random_state=50,
    stopwords=stopwords
)

wc.generate_from_text(text)
# img_colors = ImageColorGenerator(backgroud_Image)
# 看看词频高的有哪些
process_word = WordCloud.process_text(wc, text)
sort = sorted(process_word.items(), key=lambda e: e[1], reverse=True)
print(sort[:50])
plt.imshow(wc)
plt.axis('off')
wc.to_file("网易云音乐评论词云.jpg")
print('生成词云成功!')

最后生成的词云图如下所示:

用户年龄

代码和上面差不多,只需要更改下数据即可,这里直接放效果图了,如下图所示:

感觉还是年轻的粉丝居多啊!

地区分布

这个代码稍微复杂一些了,毕竟涉及到地图,代码如下:

import pandas as pd
from pyecharts import Map


def city_group(cityCode):
    """
    城市编码
    "
""
    city_map = {
        '11''北京',
        '12''天津',
        '31''上海',
        '50''重庆',
        '5e''重庆',
        '81''香港',
        '82''澳门',
        '13''河北',
        '14''山西',
        '15''内蒙古',
        '21''辽宁',
        '22''吉林',
        '23''黑龙江',
        '32''江苏',
        '33''浙江',
        '34''安徽',
        '35''福建',
        '36''江西',
        '37''山东',
        '41''河南',
        '42''湖北',
        '43''湖南',
        '44''广东',
        '45''广西',
        '46''海南',
        '51''四川',
        '52''贵州',
        '53''云南',
        '54''西藏',
        '61''陕西',
        '62''甘肃',
        '63''青海',
        '64''宁夏',
        '65''新疆',
        '71''台湾',
        '10''其他',
    }
    cityCode = str(cityCode)
    return city_map[cityCode[:2]]


# 读取数据
df = pd.read_csv('music_comments.csv', header=None, names=['name''userid''age''gender''city''text''comment''commentid''praise''date'], encoding='utf-8-sig')
# 根据评论ID去重
df = df.drop_duplicates('commentid')
df = df.dropna()
# 进行省份匹配
df['location'] = df['city'].apply(city_group)

# 分组汇总
loc_message = df.groupby(['location'])
loc_com = loc_message['location'].agg(['count'])
loc_com.reset_index(inplace=True)

# 绘制地图
value = [i for i in loc_com['count']]
attr = [i for i in loc_com['location']]
print(value)
print(attr)
map = Map("歌曲被爆抄袭后评论用户的地区分布图", title_pos='center', title_top=0)
map.add("", attr, value, maptype="china", is_visualmap=True, visual_text_color="#000", is_map_symbol_show=False, visual_range=[0, 60])
map.render('歌曲被爆抄袭后评论用户的地区分布图.html')

最后得到的效果图如下所示:

可以看到四川、广东省的评论数量居多。

粉丝性别

代码和上面的差不多,这里不再赘述,直接上效果图了。

可以看到女粉丝占据了大头。

总结

大家好,我是Python进阶者。这篇文章主要基于网易云热评数据,利用了Python中的数据处理库pandas进行数据处理和分析,并利用可视化库pyecharts给大家分享了相关图形的制作方法,并发现了一些有趣的数据分析结果。

最后也欢迎大家积极尝试,有好的内容也可以分享给我噢!

小伙伴们,快快用实践一下吧!如果在学习过程中,有遇到任何问题,欢迎加我好友,我拉你进Python学习交流群共同探讨学习。

------------------- End -------------------

往期精彩文章推荐:

欢迎大家点赞,留言,转发,转载,感谢大家的相伴与支持

想加入Python学习群请在后台回复【入群

万水千山总是情,点个【在看】行不行

/今日留言主题/

随便说一两句吧~~

浏览 16
点赞
评论
收藏
分享

手机扫一扫分享

举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

举报