株分析

Twitterデータの分析をしながらmongoDBを紹介する①

投稿日:

最近、AYXが勝手に損切りされたので、その資金でモンゴDBを買いました。衝動的に買ったわけではなく、実は上場時から密かに目をつけていた銘柄です。

知らない人のためにざっくりと紹介しますと、モンゴDBはNoSQLのデータベースで首位のオープンソースソフトウェアです。たまに打倒オラクル的な言い方をする人も言いますが、そもそもNoSQLとRDB製品は用途が違うので直接的な競合関係にはないです。

将来的にはIoT系の雑多なデータが多くなってくるので、NoSQLのニーズは拡大していくと考えられています。

そこで本記事ではモンゴDBを紹介したいと思います。

スポンサーリンク




Twitter APIを使ってみる

モンゴDBをただ紹介しても芸がないので、こんな感じで使うものですよというところに触れてみようと思います。

そこで今回は身近なおもちゃとしてTwitterのAPIで遊んでいきたいと思います。

まず、ツイッターのAPIに接続します。接続にはキー情報が必要なため、事前にツイッターAPIに利用登録をして、consumer_key,consumer_secret,access_token,acsess_secretの4つを取得してください。

これでツイッターAPIが利用可能になりました。

次に、データを取得してみます。

取得できるデータは色々ありますが、今回は一番シンプルにキーワード検索に引っかかったツイートを取得するためにserchTWという関数を作ってみました。

ということで、関数ができたため早速使ってみましょう。

とりあえず、パッと思いついたキーワードを突っ込んで検索してみた結果は以下の通りです。

APIの制限上、1回で取得できるツイートは100件までなのですが、流石ツイッタランドのマスコット的存在だけあり、余裕で100件分のツイートが取得することができました。

ツイートデータをモンゴDBに入れてみる

さて、前述の表示はあくまでツイート部分のみを抽出しましたが、次に取得できたデータの中身をみてみます。以下の通りです。

ちなみにこれは1ツイートあたりのデータの全量です。実際にはこのデータが100件分あります。

呟いた人のIDや名前は当然ですが、ファボ数やリツイート数、画像やリンクの有無、などなどありとあらゆるデータがAPI経由で取得できるわけです。

上記のようなデータ形式はJSON形式といって最近、流行ってる気がします。キーとデータが一意に紐づけられるし、csvと違って人が見てもある程度解釈できるといった点が利点です。

そしてこのようなJSON形式のデータを簡単に保管しておけるのがモンゴDBさんです。

なお、手順ですが、以下の手順は予め行ったことを前提にpythonで突っ込むところから記載します。

  1. モンゴDBをダウンロードしてPCにインストールする
  2. pythonから扱うのでpipからpymongoをインストールする
  3. 事前にモンゴDBは起動しておく

それではpythonからモンゴDBに接続し、データを格納してみます。

これだけです。接続からtweetデータのインサートまででたった5行です。

insertされたtweetというデータはさっきAPIから取得したツイートデータの全量ですが、たった一行でDBにぶち込むことに成功しています。これがmongoDBがお手軽で支持されている真骨頂ですね。

本当に入ったか確認してみましょう。DBの中身をリストで表示したのが以下の結果です。

このように問題なく取得できています。

モンゴDBのデータを弄ってみる

DBにデータさえ入ってしまえばこっちのものです。データは自由自在に扱えます。

例えば以下のように、「誰が」、「どんなツイートを呟いたか」だけを抜き取って表示してみるとこんな感じです。

また、普段からアジデンさんと仲が良いわかま屋さんが、どれだけアジデンさんのことを愛しているかを知りたくなったら、以下のようにわかま屋さんのアジデン呟きだけを抽出することも容易いです。

まとめと今後について

本記事ではJSON形式のデータを簡単に扱えるNoSQLデータベースのmongoDBを紹介しました。RDBのようにリレーションの設計をしたりする手間がなく、何でもかんでもガンガン入れられるところがとても使い勝手のいいDBで個人的には好きです。

そして奇妙な副産物として、mongoDBを紹介する過程で世の中の「アジデン」呟きを100件分取得することができてしまいました。

こちらについては引き続き色々分析して遊んでいきたいと思います。

例えば、

  • 形態素解析にかけて、アジデン呟きの傾向をみてみる
  • 単純に使われているキーワードとか、誰が一番、アジデン愛があるかとかをみてみる
  • むしろアジデンさん本人のツイートを数千件溜め込んだ上で、ディープラーニングでアジデンBOTを作ってみる
  • アジデンさんのツイートに速攻でクソリプをつけるBOTを作ってみる

などなど、モンゴDBが使いこなせれば可能性は無限大ですね!







-株分析
-,

Copyright© AIで米国株研究 , 2018 All Rights Reserved Powered by AFFINGER4.