精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

基于微博數據用 Python 打造一顆“心”

大數據
requests 用于網絡請求爬取微博數據,結巴分詞進行中文分詞處理,詞云處理庫 wordcloud,圖片處理庫 Pillow,科學計算工具 NumPy ,類似于 MATLAB 的 2D 繪圖庫 Matplotlib。

一年一度的虐狗節終于過去了,朋友圈各種曬,曬自拍,曬娃,曬美食,秀恩愛的。程序員在曬什么,程序員在加班。但是禮物還是少不了的,送什么好?作為程序員,我準備了一份特別的禮物,用以往發的微博數據打造一顆“愛心”,我想她一定會感動得哭了吧。哈哈?。?!

準備工作

有了想法之后就開始行動了,自然***想到的就是用 Python 了,大體思路就是把微博數據爬下來,數據經過清洗加工后再進行分詞處理,處理后的數據交給詞云工具,配合科學計算工具和繪圖工具制作成圖像出來,涉及到的工具包有:

requests 用于網絡請求爬取微博數據,結巴分詞進行中文分詞處理,詞云處理庫 wordcloud,圖片處理庫 Pillow,科學計算工具 NumPy ,類似于 MATLAB 的 2D 繪圖庫 Matplotlib。

工具安裝

安裝這些工具包時,不同系統平臺有可能出現不一樣的錯誤,wordcloud,requests,jieba 都可以通過普通的 pip 方式在線安裝,

  1. pip install wordcloud 
  2. pip install requests 
  3. pip install jieba 

在Windows 平臺安裝 Pillow,NumPy,Matplotlib 直接用 pip 在線安裝會出現各種問題,推薦的一種方式是在一個叫 Python Extension Packages for Windows 1 的第三方平臺下載 相應的 .whl 文件安裝??梢愿鶕约旱南到y環境選擇下載安裝 cp27 對應 python2.7,amd64 對應 64 位系統。下載到本地后進行安裝

  1. pip install Pillow-4.0.0-cp27-cp27m-win_amd64.whl 
  2. pip install scipy-0.18.0-cp27-cp27m-win_amd64.whl 
  3. pip install numpy-1.11.3+mkl-cp27-cp27m-win_amd64.whl 
  4. pip install matplotlib-1.5.3-cp27-cp27m-win_amd64.whl 

其他平臺可根據錯誤提示 Google 解決?;蛘咧苯踊?Anaconda 開發,它是 Python 的一個分支,內置了大量科學計算、機器學習的模塊 。

獲取數據

新浪微博官方提供的 API 是個渣渣,只能獲取用戶***發布的5條數據,退而求其次,使用爬蟲去抓取數據,抓取前先評估難度,看看是否有人寫好了,在GitHub逛了一圈,基本沒有滿足需求的。倒是給我提供了一些思路,于是決定自己寫爬蟲。使用 http://m.weibo.cn/ 移動端網址去爬取數據。發現接口 http://m.weibo.cn/index/my?format=cards&page=1 可以分頁獲取微博數據,而且返回的數據是 json 格式,這樣就省事很多了,不過該接口需要登錄后的 cookies 信息,登錄自己的帳號就可以通過 Chrome 瀏覽器 找到 Cookies 信息。

實現代碼:

  1. def fetch_weibo(): 
  2.     api = "http://m.weibo.cn/index/my?format=cards&page=%s" 
  3.     for i in range(1, 102): 
  4.         response = requests.get(url=api % i, cookies=cookies) 
  5.         data = response.json()[0] 
  6.         groups = data.get("card_group"or [] 
  7.         for group in groups: 
  8.             text = group.get("mblog").get("text"
  9.             text = text.encode("utf-8"
  10.             text = cleanring(text).strip() 
  11.             yield text 

查看微博的總頁數是101,考慮到一次性返回一個列表對象太費內存,函數用 yield 返回一個生成器,此外還要對文本進行數據清洗,例如去除標點符號,HTML 標簽,“轉發微博”這樣的字樣。

保存數據

數據獲取之后,我們要把它離線保存起來,方便下次重復使用,避免重復地去爬取。使用 csv 格式保存到 weibo.csv 文件中,以便下一步使用。數據保存到 csv 文件中打開的時候可能為亂碼,沒關系,用 notepad++查看不是亂碼。

  1. def write_csv(texts): 
  2.     with codecs.open('weibo.csv''w'as f: 
  3.         writer = csv.DictWriter(f, fieldnames=["text"]) 
  4.         writer.writeheader() 
  5.         for text in texts: 
  6.             writer.writerow({"text": text}) 
  7.  
  8. def read_csv(): 
  9.     with codecs.open('weibo.csv''r'as f: 
  10.         reader = csv.DictReader(f) 
  11.         for row in reader: 
  12.             yield row['text'

分詞處理

從 weibo.csv 文件中讀出來的每一條微博進行分詞處理后再交給 wordcloud 生成詞云。結巴分詞適用于大部分中文使用場景,使用停止詞庫 stopwords.txt 把無用的信息(比如:的,那么,因為等)過濾掉。

  1. def word_segment(texts): 
  2.     jieba.analyse.set_stop_words("stopwords.txt"
  3.     for text in texts: 
  4.         tags = jieba.analyse.extract_tags(text, topK=20) 
  5.         yield " ".join(tags) 

生成圖片

數據分詞處理后,就可以給 wordcloud 處理了,wordcloud 根據數據里面的各個詞出現的頻率、權重按比列顯示關鍵字的字體大小。生成方形的圖像,如圖:

是的,生成的圖片毫無美感,畢竟是要送人的也要拿得出手才好炫耀對吧,那么我們找一張富有藝術感的圖片作為模版,臨摹出一張漂亮的圖出來。我在網上搜到一張“心”型圖:

生成圖片代碼:

  1. def generate_img(texts): 
  2.     data = " ".join(text for text in texts) 
  3.     mask_img = imread('./heart-mask.jpg', flatten=True
  4.     wordcloud = WordCloud( 
  5.         font_path='msyh.ttc'
  6.         background_color='white'
  7.         mask=mask_img 
  8.     ).generate(data) 
  9.     plt.imshow(wordcloud) 
  10.     plt.axis('off'
  11.     plt.savefig('./heart.jpg', dpi=600) 

需要注意的是處理時,需要給 matplotlib 指定中文字體,否則會顯示亂碼,找到字體文件夾:C:\Windows\Fonts\Microsoft YaHei UI復制該字體,拷貝到 matplotlib 安裝目錄:C:\Python27\Lib\site-packages\matplotlib\mpl-data\fonts\ttf 下

差不多就這樣。

責任編輯:武曉燕 來源: 36大數據
相關推薦

2017-02-24 19:32:39

微博數據Python

2022-12-27 14:29:37

javascript動畫

2014-07-30 16:19:13

敏捷華為

2015-05-18 16:12:32

信息化轉型油氣行業華為

2013-04-16 13:57:36

2020-06-30 15:38:17

戴爾

2024-06-11 08:32:37

JavaScrip隨機樹UI

2009-06-10 18:15:36

電腦下鄉家電下鄉

2013-09-29 11:08:10

Bay Trail平板電腦

2022-08-26 12:13:40

黑客網絡攻擊

2010-07-30 15:58:18

2021-12-24 11:58:20

Shell腳本圣誕樹編程語言

2015-11-20 17:30:34

天翼

2021-06-30 13:20:05

Windows 11芯片PC

2009-04-21 18:04:04

雙核Nehalemintel

2021-03-15 14:17:38

射頻芯片5G手機信號

2011-12-20 14:33:03

傲游瀏覽器微博

2015-01-12 11:07:22

2021-01-21 21:14:53

人工智能AIOpenAI
點贊
收藏

51CTO技術棧公眾號

色偷偷av一区二区三区| 久久久国产精品麻豆| 久久躁日日躁aaaaxxxx| 精品99在线视频| 久青青在线观看视频国产| 欧美1区3d| 亚洲国产精品va在看黑人| 波多野结衣乳巨码无在线| 你懂的在线看| 久久99精品国产| 揄拍成人国产精品视频| 韩国三级丰满少妇高潮| 蜜桃麻豆av在线| 国产欧美日韩中文久久| 91中文字精品一区二区| 国产一级做a爱片久久毛片a| 日日狠狠久久偷偷综合色| 在线区一区二视频| 伊人久久大香线蕉精品| 亚洲精品18p| 久久午夜av| 久热精品视频在线免费观看| 亚洲乱妇老熟女爽到高潮的片| 无遮挡爽大片在线观看视频 | 欧美亚洲成人精品| 在线免费播放av| 成人国产一区| 亚洲精品国产高清久久伦理二区| 国产欧美日韩综合精品二区| 中文亚洲av片在线观看| 亚洲精一区二区三区| 亚洲乱码一区二区| 特黄特色免费视频| 久久久久黄色| 欧美性少妇18aaaa视频| 丰满人妻一区二区三区53号 | 人人玩人人添人人澡欧美| 亚洲国产va精品久久久不卡综合| 亚洲精品一区二区三| 色噜噜在线播放| 久久91精品国产91久久小草| 欧美自拍视频在线观看| 久久久精品91| 国产一区二区三区四区| 亚洲国产精品va在看黑人| 国产又粗又猛又爽又黄| 成人爱爱网址| 午夜视频在线观看一区二区| 国产青草视频在线观看| 黄色网页在线免费看| 26uuu精品一区二区在线观看| 亚洲影院色无极综合| 国产无套在线观看| 久操成人av| 亚洲成色777777女色窝| www.超碰97.com| 天然素人一区二区视频| 午夜日韩在线观看| 黄色一级片在线看| 欧美xxxx黑人又粗又长| 国产精品美女www爽爽爽| 蜜桃av色综合| 青青草在线视频免费观看| 国产精品一二三四区| 91系列在线播放| 99国产精品久久久久99打野战| 日本欧美韩国一区三区| 欧美激情精品久久久久久黑人| 69av.com| 黄色在线一区| 久久久久免费精品国产| 极品久久久久久| 一区二区在线影院| 中文字幕国产精品| 国产精品久久久免费看| 国产精品久久久乱弄| 爱福利视频一区| 日韩女优一区二区| 国内自拍一区| 在线观看日韩欧美| 91麻豆制片厂| 国产探花在线精品一区二区| 这里只有精品丝袜| 久久久99999| 欧美99久久| 国内精品久久久久久中文字幕| 久久精品国产亚洲av无码娇色| 久久香蕉国产| 久久久久久久国产精品视频| 久久久精品福利| 久久国产日韩| 国产日韩精品在线观看| 国产免费高清视频| 大白屁股一区二区视频| 久久精品国产一区二区三区日韩| 天天色综合久久| eeuss鲁片一区二区三区在线观看| 久久久久成人精品免费播放动漫| 国产区高清在线| 亚洲人成7777| 国产在线xxxx| 手机在线理论片| 欧美唯美清纯偷拍| 人妻巨大乳一二三区| 加勒比色老久久爱综合网| 亚洲国产日韩欧美在线动漫| 中文乱码人妻一区二区三区视频| 夜色77av精品影院| 久久精品亚洲精品| 日韩女优在线观看| 麻豆成人综合网| 国产精品二区二区三区| 手机看片一区二区三区| 欧美国产综合色视频| 91成人在线视频观看| 女生影院久久| 日韩一级免费观看| 受虐m奴xxx在线观看| 色爱综合网欧美| 午夜精品久久久久久久白皮肤| 中文字幕 国产| 成人av在线影院| 亚洲在线播放电影| 九色porny自拍视频在线观看| 一本大道久久a久久综合婷婷| 亚洲少妇第一页| 国产精品毛片av| 亚洲欧美精品一区二区| 免费三级在线观看| 老牛嫩草一区二区三区日本| 国产伦精品一区二区三区免| 免费观看在线午夜影视| 色综合网色综合| 奇米777在线视频| 国产影视一区| 久久99久久亚洲国产| 亚洲系列在线观看| 久久久久久久久久久久久久久99| 91免费版看片| 99久久伊人| 69久久99精品久久久久婷婷| 三叶草欧洲码在线| 午夜久久久久| 亚洲一区二区三区四区在线播放 | 欧美日韩精品在线播放| 欧美伦理视频在线观看| 99只有精品| 亚洲网站在线播放| 日本亚洲欧美在线| 国产91丝袜在线18| 在线精品日韩| 欧美日韩va| 综合国产在线观看| 国产精品三区在线观看| 国产又黄又大久久| 中国一级黄色录像| 国产精区一区二区| 日韩在线中文字幕| 青青国产在线视频| 国产日韩亚洲欧美综合| 欧美日韩在线视频一区二区三区| 欧美尿孔扩张虐视频| 国产亚洲精品久久久久久| 美女又爽又黄免费视频| 久久综合色8888| 妺妺窝人体色www在线小说| 国内精品国产成人国产三级粉色 | 性高潮久久久久久久| 国产精品久久久一区二区| 99在线影院| 黄色成人在线网| 亚洲第一区在线| 日韩精品手机在线| 久久亚区不卡日本| 日本成年人网址| 成人91在线| 日韩美女中文字幕| 飘雪影视在线观看免费观看| 午夜精彩视频在线观看不卡| 午夜不卡久久精品无码免费| 亚洲精品色图| 日韩成人在线资源| 色999久久久精品人人澡69| 久久精品亚洲精品| 丰满人妻av一区二区三区| 精品国产精品自拍| 日韩女同一区二区三区| 日本亚洲最大的色成网站www| 视频一区二区在线| 国产一精品一av一免费爽爽| 久久久av亚洲男天堂| 人妻精品无码一区二区| 一本色道综合亚洲| 欧美色视频一区二区三区在线观看| 国产一区高清在线| 日韩精品 欧美| av在线不卡顿| 国产欧洲精品视频| 成人影音在线| 一本色道久久综合狠狠躁篇怎么玩 | 国产福利片在线观看| 夜夜嗨av一区二区三区免费区| 国产又大又黄又爽| 亚洲大片精品永久免费| 国产真人做爰视频免费| 日本亚洲一区二区| 人妻av无码专区| 国产亚洲欧美日韩在线观看一区二区| 国产精品专区第二| 日本成人不卡| 中文字幕精品久久| 天堂av手机版| 亚洲第一激情av| 亚洲欧美综合7777色婷婷| 成人午夜av电影| 少妇一级淫免费播放| 韩国一区二区三区在线观看| 日韩精品欧美专区| 国产精品极品国产中出| 国产精品一区专区欧美日韩| 91网在线播放| 国产视频精品一区二区三区| 99草在线视频| 欧美日韩一区二区在线观看| 欧美激情亚洲综合| 中文字幕一区二区三区四区| 手机在线看片日韩| 国产精品白丝jk黑袜喷水| 熟女人妇 成熟妇女系列视频| 亚洲网站视频| 相泽南亚洲一区二区在线播放| 懂色av色香蕉一区二区蜜桃| 国产精品久久久久9999| 欧美另类老肥妇| 欧美激情二区三区| 在线三级电影| 精品国偷自产在线视频| eeuss影院www在线观看| 日韩欧美自拍偷拍| 国产精品视频在线观看免费| 在线免费观看一区| 亚洲综合久久网| 狠狠久久亚洲欧美专区| 国产一级片免费观看| 久久影音资源网| 熟妇人妻久久中文字幕| 丰满白嫩尤物一区二区| 黄色a级三级三级三级| 狠狠久久亚洲欧美| 亚洲午夜无码av毛片久久| 91精品国产麻豆国产在线观看| 国产精品久久久一区二区三区| 国产视频一区二| 国产精品69久久| 午夜欧美巨大性欧美巨大| 69精品小视频| 高清全集视频免费在线| 日韩亚洲成人av在线| 国产高清视频在线| 一区二区三区黄色| 国产福利第一视频在线播放| 亚洲精品国产成人| 91九色蝌蚪91por成人| 欧美视频在线观看一区二区| 中文字幕乱码在线观看| 欧美性色视频在线| 少妇无套内谢久久久久| 欧美视频在线观看免费网址| 久久免费少妇高潮99精品| 亚洲一二三专区| 免费无遮挡无码永久在线观看视频| 亚洲精品免费看| 国产精品成人av久久| 婷婷中文字幕一区三区| 日韩免费av网站| 欧美日韩免费不卡视频一区二区三区| 一区二区视频网站| 欧美三区在线观看| 国产精品无码粉嫩小泬| 欧美精品乱人伦久久久久久| 波多野结衣视频观看| 欧美日韩国产成人在线免费| 在线观看毛片视频| 91麻豆精品国产91久久久久久久久 | 日本天堂在线| www.国产免费| 美国十次av导航亚洲入口| 国产综合色视频| 亚洲精品美女免费| 中文字幕黄色大片| 乡村艳史在线观看| 久久久久久网站| 亚洲插插视频| 国产精品xxx视频| 99tv成人影院| 国产精品欧美久久久| 99久久久国产| 就去色蜜桃综合| 天天做天天爱天天综合网| 国产乱子伦精品视频| 亚洲激情午夜| 国产成人在线综合| 成人网在线免费视频| 99成人在线观看| 亚洲1区2区3区4区| 国产日韩免费视频| 一区二区三区视频免费在线观看| av伦理在线| 91久久精品国产91性色| 久久99精品久久久久久园产越南| 日本成人在线不卡| 免费在线视频一区| 免费在线观看成年人视频| 一区二区三区免费在线观看| 男人天堂av在线播放| 亚洲激情视频网| 日本大胆在线观看| 国产精品观看在线亚洲人成网| 精品淫伦v久久水蜜桃| 成人国产一区二区三区| 老司机午夜精品| 四虎永久免费在线观看| 伊人开心综合网| 99国产精品99| 久久精品夜夜夜夜夜久久| 成人在线免费电影网站| 欧美日韩一区二区三| aa亚洲婷婷| 69xxx免费视频| 一区二区高清视频在线观看| 国产丝袜在线视频| 中文字幕精品网| 国产 日韩 欧美一区| 欧美日韩大片一区二区三区| 国产精品久久久久久久久久妞妞| 杨幂一区二区国产精品| 日韩美女视频一区| 国产精品毛片久久久久久久av | 亚洲精品18p| 久久中文精品视频| 国产一区二区三区黄网站| 熟女视频一区二区三区| 国产精品一区二区在线播放| 黑人操日本美女| 欧美一级淫片007| 污网站在线免费看| 丁香五月网久久综合| 欧美精品综合| 成人区人妻精品一区二| 香蕉成人啪国产精品视频综合网| 欧美 日韩 国产 在线| 性欧美xxxx视频在线观看| 天堂一区二区三区四区| 黄色片网址在线观看| 99精品视频一区二区三区| 日韩欧美激情视频| 国产视频丨精品|在线观看| 男人皇宫亚洲男人2020| 亚洲精品一区二| 国产精品一区二区视频| 日本少妇激情舌吻| 日韩精品在线免费| 亚洲精品国产精品国产| 日韩激情视频| 九九在线精品视频| 国产suv一区二区三区| 日韩午夜中文字幕| 欧美aa一级| 一级特黄录像免费播放全99| 国产一区二区三区免费观看| 久久精品国产亚洲av麻豆色欲| 亚洲欧美成人网| 精品免费av在线 | 老司机午夜免费福利| 日韩欧美亚洲范冰冰与中字| 91精品大全| 超碰国产精品久久国产精品99| 雨宫琴音一区二区在线| 欧美熟妇精品黑人巨大一二三区| 欧美午夜电影在线播放| 日本电影在线观看| 日韩精品不卡| 久久99国产精品久久99| 国产精品一区二区6| 日韩资源在线观看| 卡一精品卡二卡三网站乱码| 天天色综合天天色| 亚洲国产视频在线| 国产特黄在线| 成人欧美一区二区三区在线湿哒哒| 伊人久久大香线蕉综合热线| 大胸美女被爆操| 欧美精品一区二区三区高清aⅴ| 国产亚洲一区二区手机在线观看| 国产情侣第一页| 国产精品免费看片| 欧美熟妇另类久久久久久不卡| 538国产精品一区二区免费视频| 色综合天天综合网中文字幕| 黑人玩弄人妻一区二区三区|