他の実行環境で作成されたJupyter notebookが自分の環境でdead kernelになるときの対処方法
イントロダクション
人から頂いたipynbファイルが自分の実行環境でdead kernelになってしまいました。つらみ(´・ω・｀)
解決方法
jupyter notebookが生成してくれる.ipynbファイルはjson形式のテキストファイルです。( The Jupyter Notebook Format — IPython 3.2.1 documentation )
お好みのテキストエディタでおもむろに.ipynbファイルをひらいていただくとファイルの最後の方にmetadataというところがありますので、そこを自分の環境に書き換えると動きます。自分の環境を知る方法ですが、jupyter notebookで新しい.ipynbファイルを生成すると、そのnotebookの中身のmetadataが自分の環境です。
# Replace前の例
"metadata": {
"anaconda-cloud": {},
"kernelspec": {
"display_name": "Python [conda root]",
"language": "python",
"name": "conda-root-py"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 2
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython2",
"version": "2.7.11"
}
},
# Replace後の例
"metadata": {
"kernelspec": {
"display_name": "Python 3",
"language": "python",
"name": "python3"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 3
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.6.0"
}
},
これで無事dead kernelにならずにipynbファイルを動かすことができました！！(｀･ω･´)
ですがソースコードは変換されずそのままですので自分の環境での検証は必須です。お気をつけください。
Ubuntu16にPHPbrewを用いた開発環境の構築してみた
Vim使ってPHPでステップ実行したいいいいい（｀；ω；´）
ふと、ある日そう思ったわけです。
そんなわけなのですが、今回のゴールはphpbrewで自在にphpのバージョンを変えることができるところまで頑張ってみようと思います。
環境
- Ubuntu 16.04
- phpbrew 1.22.6
手順
まずは必要なパッケージのインストールをします
sudo aptitude install apache2 apache2-dev php php-curl sudo service apache2 start
でlocalhostにブラウザからアクセスして"Apache2 Ubuntu Default Page"というタイトルのページにつながればおっけーですb
次にphpbrewのインストールです(詳しくはhttps://github.com/phpbrew/phpbrew/blob/master/README.ja.mdを参照)
curl -L -O https://github.com/phpbrew/phpbrew/raw/master/phpbrew chmod +x phpbrew sudo mv phpbrew /usr/local/bin/phpbrew phpbrew init
.bashrcか.zshrcあたりに以下の設定を追記した後、ターミナルを再起動か、設定ファイルを再読込させます。
[[ -e ~/.phpbrew/bashrc ]] && source ~/.phpbrew/bashrc
Ubuntu仕様のApacheではモジュールのOn/Offをコマンドで行います。phpbrewでphpのインストールを行う際、/etc/apache2/mods-enabledに指定の.confファイルがなければ設定の書き込みに失敗して正しくビルドされません（phpに関するenabledなモジュールが１つもインストールされてない場合は特に意識する必要はないと思われます（未確認））。自分のモジュールの状況を確認して各自以下のコマンドを実行してください。また、PHP5とPHP7のモジュールを同時にOnにしてしまうとコンフリクトして正しくapache2が起動されませんので注意してください
# PHP5系をインストールしたくて、現在enabledなモジュールがPHP7のとき a2dismod php7 a2enmod php5 # PHP7系をインストールしたくて、現在enabledなモジュールがPHP5のとき a2dismod php5 a2enmod php7
古いバージョンのphpが欲しい場合は--oldをつけます。また、インストール時にphp本体と一緒にapache2のモジュールもインストールされますのでエラーが出たら指示にしたがってアクセス権の変更などをおこなってください
phpbrew update phpbrew update --old phpbrew known --old phpbrew install 5.3.29 +default +apxs2 phpbrew switch 5.3.29
後々ステップ実行できるようにxdebugのインストールもしておきます。新しいバージョンのXDebugだと古いバージョンのPHP用にはコンパイルされていないことがあるそうなので、うまく行かない人はインストールするXDebugのバージョンを下げて試してみてください（参考URL: Failed to install xdebug · Issue #538 · phpbrew/phpbrew · GitHub）
phpbrew ext install xdebug # うまく行かない人はバージョンを調べて適当に古いバージョンをインストール phpbrew ext known xdebug phpbrew ext install xdebug 2.2.7
phpのバージョンを切り替えたあとは忘れずapache2を再起動しましょう
sudo service apache2 restart
ここまででPHPのバージョンを自在に切り替えることができるようになりました（できない人はコメントにて教えていただけると助かります！）
所感
PHP自体はすごく書きやすい言語だと思うけど、開発環境とかプロジェクトの管理とかでその人のセンスがもろに出そうな気がしました。何事もまずは整理整頓からですね！
それではみなさんよいPHPライフを！
参考にしたサイト様
http://qiita.com/keitaoouchi/items/f9f3287d7d5e82dd382aqiita.com
WindowsでVimの環境を整える
みなさんお久しぶりです今回はWindowsでKaoriyaさんVimの設定に挑戦してみたのでやり方をメモしておきます
解凍して出てきたフォルダを
C:\Program Filesあたりに設置します起動させる際に、Kaoriyaさんの便利設定を読み込んだあと
C:\Users\.vimrcまでユーザー設定を読み込みにいってくれます。今回はvimの設定ファイルはMacやLinuxでのVimの環境と揃えるために自分のリポジトリから引っ張ってきたものを使いました
C:\Program Files\vim80-kaoriya-win64\switches\catalogにあるutf-8というファイルをC:\Program Files\vim80-kaoriya-win64\switches\enabledにコピーすることで、KaoriyaVim内部のエンコーディングをutf-8にすることができるようです。いまのところデフォルトのcp932でも問題なさそうなので、ここらへんの設定はまた後日ご報告できればと思います
fudist - WindowsのKaoriya版vim/gvimの問題と対処
感想
KaoriyaさんVim最高！！KaoriyaさんVim使わずに+LuaのVimをコンパイルするのエグかった（挫折した）ので。。。
【小話】MacBookにUbuntu入れたけどMacOSに戻した話
みなさんこんにちは！
今回は、「職場のワークステーションにubuntu16を入れて愛用してるので、きっとプライベートで使ってるMacBookに入れても超快適だろう！と思ったらそうでもなかった話」です
Install
今回はUbuntuのブータブルUSBを作成して、MacBookにクリーンインストールしました
MacBook+Ubuntuで気になるところ
さっくりまとめ
- Laptopの製品を使うときはやっぱり推奨のOS使っとくのが無難
- MacOS使いやすすぎ！！
- またUbuntuのモジュールまわりとかを開発したくなったらホストOSにUbuntu入れるかもですが、しばらくはMacOS + VM(UbuntuとかFedoraとか)で過ごしてみたいと思います
- 次はUbuntu推奨のLaptopPCを買って、そこにUbuntu入れるのがいいなー。
そんなわけでみなさんよいPCライフを！
EC2+cuDNN+Chainerでディープラーニング用爆速計算環境を手に入れる
みなさーん！DeepLearning、楽しんでますかぁーーー！
みなさん「.........（＾ω＾#）ﾋﾞｷﾋﾞｷ」
え、GPU搭載の計算環境がなくて全然楽しめてない？
そんなときはAWSでEC2インスタンスを立ち上げて爆速計算環境を手に入れよう！！！！
ということで今回はAWSでEC2の立ち上げからChainerのインストールまでの作業手順をまとめてみたいと思います
EC2インスタンスの立ち上げ
EC2インスタンス立ち上げの前にregionを選択します。
regionによってだいぶ値段が違うので、現在どのくらいの値段なのか気になる方は、料金 - Amazon EC2 | AWSの「オンデマンドインスタンス価格」の欄を見ると参考になります。
値段をそんなに気にしない方はTokyoリージョン、少しでも安いのがいい人はOregonリージョンで行きましょう。僕はOregonリージョンにしました。
次にインスタンスの立ち上げです。Services（左上） > EC2 > Launch Instance > AWS Marketplace > 検索欄で「NVIDIA」と検索 > 「Amazon Linux AMI with NVIDIA GRID GPU Driver」を選択 > Typeは「g2.2xlarge」を選択 > Launchをクリック！
LaunchをクリックするとKey pairを選択する画面が出現しますので、「Create a new key pair」を選択してKey pairを新規作成します。Key pairとはAWSで作成したインスタンスにアクセスするために必要なドアの鍵のようなものです。ドアの鍵をなくしたらドアは絶対に開けれません。ダウンロードしたキーはなくさないようにしましょう。$HOME/.ssh配下においておくのがおすすめです。
うまくいけばそれでインスタンスが立ち上がるはずです！
なんか２時間待てとか言われる
AWSアカウントを作成したばかりだと２時間くらいはEC2インスタンスが立ち上げられないことがあるそうです。オッケーされるまで待ちましょう。
インスタンスの利用上限枠が0なのでインスタンスを立ち上げられませんと言われる
Services（左上） > EC2 > Limitsよりg2.2xlargeの Current Limitが0になってる方は、右隣のRequest limit increaseより上限を1つか2つ上げてもらうようお願いしましょう。多分ですが、日本語でも聞いてもらえると思います。
インスタンスの立ち上げが終わった方は下記のコマンドでアクセスしてみましょう
ssh -i [ダウンロードしてきた.pemファイル] ec2-user@[EC2インスタンスのIPアドレス]
うまく接続できればEC2インスタンスの立ち上げは終了です
cuDNNのインストール
cuDNNとは、めちゃくちゃざっくり言うとDeepLearningの計算スピードをあげてくれるライブラリのことです。
NVIDIA cuDNN | NVIDIA Developerより、ユーザ登録をしたあと、CUDAのVersionにあったcuDNNをローカルのPCにダウンロードしてきます（先程立ち上げたインスタンスには既にCUDAがインストールされています。/opt/nvidia/cuda/version.txtを見ればCUDAのバージョンが分かります）。
ダウンロードが終わったら、下記コマンドでEC2インスタンスにアップロードしましょう。
scp -i [ダウンロードしてきた.pemファイル] アップロードしたいファイル ec2-user@[EC2インスタンスのIPアドレス]:~/
cuDNNのインストール手順は以下のとおりです
gzip -dc [filename] | tar xvf - sudo cp -P ~/cuda/include/cudnn.h /opt/nvidia/cuda/include/ sudo cp -P ~/cuda/lib64/libcudnn* /opt/nvidia/cuda/lib64/ sudo chmod a+r /opt/nvidia/cuda/lib64/libcudnn*
which nvcc
してエラーがでなければcuDNNのインストールは完了です。
参考：nvidia - How can I install CuDNN on Ubuntu 16.04? - Ask Ubuntu
Chainerのインストール
sudo pip install chainer
サンプルコードをダウンロード＆実行
wget https://github.com/pfnet/chainer/archive/v1.15.0.1.tar.gz tar xzf v1.15.0.1.tar.gz python chainer-1.15.0.1/examples/mnist/train_mnist.py --gpu 0
エラーがでずに2~3分で計算が終われば環境設定は終了です。
使い終わったら忘れずインスタンスを消しましょう
EC2 > Instances > Actions >Instance state > Stop
さいごに注意点
AWSは従量課金制です。EC2インスタンスをつけっぱなしにすると１日で2000円くらいの損失がでてしまいます。また、EC2で利用するストレージや通信料など、さまざまな課金対象がありますので心配な方は今回作成したインスタンスをTerminate（削除）しておくのが一番安全です。
僕はまだ計算に利用しますので、ひとまずEC2をStopして保持してみることにしました。おそらく利用しなくても月数百円のコストがかかっていくと思います。
また、今回紹介した方法は僕の作業ログなので自分で作業する際は自己責任でお願いします
やってみたいけど不安で怖い！って方は僕がどんどん手伝いますので質問等ありましたらガンガン連絡ください！
それではみなさま良いDeepLearningライフを！
テキストベースの数値データをグラフにplotして視える化するまでの3つの方法
今回次のようなタブ区切りのテキストベースのデータを用いてグラフで視える化するまでに3つの方法を試しましたので紹介します
Id Content 1 33 2 70 3 43 4 60 5 98
なお実行環境はUbuntu16.04ですが、今回紹介する３つの方法はMacOSXやWindowsでも動作すると思います。
1. Python + Pandas + Matplotlib + Jupyter
- Pandas公式HP: http://pandas.pydata.org/
- Matplotlib公式HP: http://matplotlib.org/
- Jupyter公式HP: http://jupyter.org/
コード
import matplotlib.pyplot as plt import pandas as pd # データの読み込み f = open("test.txt", "r") hoge = pd.read_table(f, index_col='Id') f.close() hoge.plot()
出力結果
所感
- 実際コードにしてみるとそんなに長くないけど、いろいろ試してうまくいくまでに結構時間がかかった
- 複雑なデータ解析をするときは役にたちそうだけど、軽いデータを取り扱うには重めの環境だと感じた
- もしかしてPandas使わなくてももっと簡単にプロットできたのかもしれない・・・
- Jupyterの保存形式でまるまる作業内容を保存できるのは嬉しい！
2. R + Rstudio
コード
# headerがあるときはheader=Tで認識してくれるらしい x <- read.table("~/Desktop/test.txt", header=T) # type="l"で折れ線グラフで表示させる plot(x, type="l")
出力結果
所感
- に、二行だと！！手軽に自分でデータを確認したいときにピッタリじゃないか！？
- あと細かいデータを確認したいとき、Rstudioのウィンドウを引っ張ってぐいっと引き伸ばすとグラフもぐいっと引き伸ばされるのは個人的に嬉しい機能でした
3. gnuplot
データの前処理
予めヘッダ行をコメントアウトしておきます
# Id Content 1 33 2 70 3 43 4 60 5 98
コード（というかコマンド）
gnuplot plot "test.txt" with line # 画像を保存する場合はこちら（20161209追記） set terminal png # 保存形式を指定 set output 'test.png' # 保存するファイル名を指定 plot "test.txt" with line
出力結果
所感
- gnuplot内部のコマンドでもある程度はデータ整形できるけど、いったんlinuxのコマンドで中間ファイル作ってからグラフを描画するほうがやりやすそう？
- Linuxのコマンドと親和性が高いので個人的にテンションあがりました！
まとめ
今回は素早く数値データのプロットをして視える化するのが出口だったので、Rstudioがベストプラクティスでした。
取り組む作業の出口によってベストな解法は変わると思いますので、いろいろなツールをかじっておくといいことがあるかもと思いました。
今日のひとこと
自分で作業していて、なんだかもやもやするときグラフにプロットしてみると以外な発見があるかも！
それではまた！
Vimでなんか知らんが便利なCtrl+r+=で四則演算ができちゃうお話
みなさんこんにちは！今回はvimで四則演算の結果を手軽に貼り付けることのできる機能のお話です。
インサートモード時に
Ctrl+r=11+22
とすると、カーソルの場所に演算の結果"33"がそのまま貼り付けられる素晴らしい機能がVimには標準でついてます。
pythonインタプリタやbcコマンドを使って演算をした後コピペなどが原因で起こるヒューマンエラーをなくすことができるので、とても重宝する機能だと思います。
とっても便利なこの機能、わけもわからず使っていたのですが、、、調べてみたところExpressionレジスタという演算機能を持った特殊なレジスタとのことです。
そもそも、インサートモードの時に Ctrl+r+レジスタ名 でレジスタの中身を利用することができるみたい。
試しに "ayy で任意の行をaキーのレジスタにヤンクしたあとインサートモードで Ctrl+r+a を押してみたら、ヤンクしてきた任意の行がペーストされました。いやーこれは気づけてよかった！超便利！
