月別アーカイブ: 2019年6月

Google BigQueryでタブ区切りTSVをインポート&エクスポート

すごいよく使うけどよく忘れるのでメモ

TSVのインポート
※ヘッダあり・10行未満のエラーは無視

$ bq load --source_format=CSV --encoding=UTF-8 --field_delimiter='\t' --skip_leading_rows=1 --max_bad_records=10 project:dataset.table file.tsv id:int64,name:string,...

TSVでエクスポート

$ bq extract --destination_format=CSV --field_delimiter='\t' project:dataset.table gs://gcsbucket/file.tsv

Spark ScalaでsortByKeyを降順にする

SparkでreduceByKeyしたあとにsortByKeyで降順にソートしたかったのでメモ

sortByKey()の引数に ascending = falseを渡す。

val totalByItem = rdd.reduceByKey((x, y) =>  (x + y)) //要素毎にカウントして (要素, 個数)のtupleにする
val flipped = totalByItem.map(x => (x._2, x._1)) // tupleの要素と個数を入れ替えて(個数、 要素)にする
val sorted = flipped.sortByKey(ascending= false) // 降順でソート

Ubuntu 18.04 に Scala をインストール

Ubuntu(Xubuntu) 18.04にScalaをインストールしたんだが、REPLで打ち込んだ文字がエコーされなかったのでメモ

まずはaptでscalaをインストール

$ sudo apt install scala

インストールしたらscalaのREPLを起動

$ scala

と、REPLが起動するんだが、何を打ち込んでもターミナルにエコーされない。
構わずに「println(“hoge”)」と入力してEnterを押すと「hoge」と出るので、エコーだけの問題

解決策は、ここに書いてあった。JLine2ライブラリの問題。
sbt – Scala REPL no echo on input – Stack Overflow

以下の手順で直った。

$ wget https://launchpad.net/~lokkju/+archive/ubuntu/java-compat/+build/16458066/+files/libjline2-java_2.14.6-1ubuntu1~bionicppa1_all.deb
$ sudo dpkg -i libjline2-java_2.14.6-1ubuntu1~bionicppa1_all.deb

これでREPLが正常に動作する。

HuaweiのHonor MagicbookにXubuntu 18.04をインストール

PCを買い替えたのでメモ。
ファーウェイのHonor Magicbookをgeekbuying.comから購入。
ネットでの注文から出荷まで5営業日、それからちょうど7日後に到着。

Huawei Honor Magicbook laptop AMD Ryzen 5 3500U Quad Core 14″ IPS 1920*1080 8GB DDR4 512GB SSD

こいつはWindows中国版がプレインストールされていて、起動と同時に中国語で喋りだすw

中国版Windows。地域選択で「日本」を選んでも日本語にはならない。

「待て、慌てるな、これは孔明の罠だ!」と司馬仲達っぽいセリフを脳内で唱えつつ、
Windowsに用はないので即座にXubuntuクリーンインストールの計を実行。

中国語で喋り続けるMagicbookにXubuntuのインストールUSBを刺して再起動。

BIOS画面を開くには、起動時にF2キーを押しっぱなしでOK。
Fast BootとSecure Bootを無効にして、BootオプションではGeneral UEFIからの起動を選択。

で、さらに再起動後インストーラが起動するので、HDDを消去してからXubuntuをインストール完了。

MagicbookにXubuntuをクリーンインストール

あとは諸々設定するんだが、どうも画面の輝度が調整出来ない。
※そしていまだに未解決。

ググってgrubの起動オプション変えたり、無理やり /sys/class/backlight/acpi_video0/brightness 書き換えたり。
あとはAMDが公開してるGPUドライバーをインストールしたりと試すが変わらず。
で、そんな事してたらVirtubalboxが起動しなくなった。。

screen 0 does not appear to be DRI2 capable

というエラーを吐いて落ちる。

仕方ないので輝度調整は一旦諦めて、amdgpu-pro-uninstallでドライバー削除。

$ sudo amdgpu-pro-uninstall
$ sudo apt autoremove
$ sudo dpkg-reconfigure xorg

再起動したらVirtualboxも起動した。

そのうちカーネルパラメータいじったりアップデートで直るだろうからしばらく放置。