Big Sky

ここ最近、gops に関する記事を2つ書いた。

golang で書かれたプロセスのリソースを外部から監視/操作できる「gops」 - Qiita

この記事は [Go Advent Calendar 2016](http://qiita.com/advent-calendar/2016/go) の3日目の記事です。 # はじめに 今回は gops...

http://qiita.com/mattn/items/a92f69ff18eb5cbcdd59

稼働中のバッチを監視したくなったら Mackerel Custom Metrics が便利 - Qiita

この記事は [Mackerel Advent Calendar 2016](http://qiita.com/advent-calendar/2016/mackerel) の 12/13 日の記事です...

http://qiita.com/mattn/items/882a1924a1d706d127a2

実は gops には一つ注意点がある(あった)。プロファイル結果をファイルとして出力しているためにお掃除しているコードがあるのだけど、これを行う為に SIGINT をキャッチしてしまっている。なので既存で CTRL-C をハンドリングしていたコードがちゃんと働かなくなるという問題があった。

Allow starting the agent without installing a signal handler by cezarsa · Pull Request #19 · google/gops · GitHub

The idea of exposing this type was for forward compatibility. I wouldn't care about breaking API at ...

https://github.com/google/gops/pull/19

が、先ほど修正がマージされ

if err := agent.Listen(&agent.Options{NoShutdownCleanup: true}); err != nil {
    log.Fatal(err)
}


この様にオプションで終了時処理を無効にしつつ起動する事ができる様になった。これで安心してプロダクションコードでも使用できる様になった。

追記: 修正が中途半端だったのでいったんリバートされ go1.9 で修正される事になりました。

UNIX に慣れている人であれば問題ないのですが、Windows で zip や tar.gz, tar.bz2, tar.xz を開くのは意外と不便で専用アーカイバをダウンロードしてきてインストールする必要があり、割かし不便なのですが archiver というツールを使うと以下のフォーマットを簡単に作成、展開できるようになります。

• .zip
• .tar
• .tar.gz
• .tgz
• .tar.bz2
• .tbz2
• .tar.xz
• .txz
• .rar (開くのみ)

インストールは golang が入っていれば簡単です。

$ go get github.com/mholt/archiver/cmd/archiver

使い方も簡単で、圧縮は以下の手順。

$ archiver make [archive name] [input files...]

※形式は拡張子で判断します。

解凍は以下の手順。

$ archiver open [archive name] [destination]

シングルバイナリで動作するので、別の Windows にポンとバイナリ一つ持っていけば同様に動作するのが良いですね。

なお go1.7 の場合、zip のタイムスタンプが正しく保存されません。

Goでファイルをzip圧縮したときにタイムスタンプがずれる問題の回避策 - Qiita

#初めに Goでファイルをzip圧縮する方法と、それに伴う問題と、その回避の記事です。 （更にいい方法がありましたら、ご指摘よろしくお願い致します） #実験環境 go version go1.4.2 ...

http://qiita.com/yuki2006/items/0211421792bd788f8153

Golangで特定のディレクトリをZIP化する処理を書いた | SHINOFARAの日常

Go playground にも書いたけど、動かない 対象となるファイルが多すぎたか package main import ( "archive/zip" "fmt" "io" "io/ioutil...

https://log.shinofara.xyz/2016/06/30/golang%E3%81%A7%E7%89%B9%E5%AE%9A%E3%81%AE%E3%83%87%E3%82%A3%E3%83%AC%E3%82%AF%E3%83%88%E3%83%AA%E3%82%92zip%E5%8C%96%E3%81%99%E3%82%8B%E5%87%A6%E7%90%86%E3%82%92%E6%9B%B8%E3%81%84%E3%81%9F/

Golangのarchive/zipを使うと、タイムゾーンが強制UTCになる問題！ | SHINOFARAの日常

archive/zip/struct.go#L170 このファイルの 170 func timeToMsDosTime(t time.Time) (fDate uint16, fTime uint16...

https://log.shinofara.xyz/2016/06/30/golang%E3%81%AEarchivezip%E3%82%92%E4%BD%BF%E3%81%86%E3%81%A8%E3%80%81%E3%82%BF%E3%82%A4%E3%83%A0%E3%82%BE%E3%83%BC%E3%83%B3%E3%81%8C%E5%BC%B7%E5%88%B6utc%E3%81%AB%E3%81%AA%E3%82%8B%E5%95%8F%E9%A1%8C/

ZIP化の時に、タイムスタンプが強制UTCになってしまう。 Issue #46 shinofara/stand GitHub

https://golang.org/src/archive/zip/struct.go#L171 の仕様上 強制的にUTC時刻としてみなされてしまっている。 その為、ロケール毎に時間を増減させないと...

https://github.com/shinofara/stand/issues/46

go1.8 でビルドすると正しく扱える様になります。go1.8 では上記の様なワークアラウンドが必要無くなります。逆に言うと、これらのワークアラウンドがあると問題が発生してしまいます。

Go 1.8 Release Notes - The Go Programming Language

DRAFT RELEASE NOTES - Introduction to Go 1.8 Go 1.8 is not yet released. These are work-in-progress ...

https://beta.golang.org/doc/go1.8#archive_zip

Gerrit Code Review

...

https://go-review.googlesource.com/#/c/18274/

こういった問題ではバージョン毎に処理を分ける必要があります。以下では go1.7 と go1.8 で動作を分けたい場合のコードを説明します。まずはワークアラウンドを行っている処理を抽出します。

func FileInfoHeader(fi os.FileInfo) (*zip.FileHeader, error) {
    size := fi.Size()
    fh := &zip.FileHeader{
        Name:               fi.Name(),
        UncompressedSize64: uint64(size),
    }

    // 現在のLocalを取得する。 
    local := time.Now().Local()

    //時刻のoffset(秒)を取得する。
    _, offset := local.Zone()

    //ファイルスタンプの時間に時差分を追加する。
    fh.SetModTime(fi.ModTime().Add(time.Duration(offset) * time.Second))
    fh.SetMode(fi.Mode())
    var uintmax = uint32((1 << 32) - 1)
    if fh.UncompressedSize64 > uint64(uintmax) {
        fh.UncompressedSize = uintmax
    } else {
        fh.UncompressedSize = uint32(fh.UncompressedSize64)
    }
    return fh, nil
}


ここを別のソースファイルに切り出します。その際 build constraints に go1.7 と !go1.8 を指定します。

// +build go1.7
// +build !go1.8

package main

func FileInfoHeader(fi os.FileInfo) (*zip.FileHeader, error) {
    size := fi.Size()
    fh := &zip.FileHeader{
        Name:               fi.Name(),
        UncompressedSize64: uint64(size),
    }

    // 現在のLocalを取得する。 
    local := time.Now().Local()

    //時刻のoffset(秒)を取得する。
    _, offset := local.Zone()

    //ファイルスタンプの時間に時差分を追加する。
    fh.SetModTime(fi.ModTime().Add(time.Duration(offset) * time.Second))
    fh.SetMode(fi.Mode())
    var uintmax = uint32((1 << 32) - 1)
    if fh.UncompressedSize64 > uint64(uintmax) {
        fh.UncompressedSize = uintmax
    } else {
        fh.UncompressedSize = uint32(fh.UncompressedSize64)
    }
    return fh, nil
}


これでこのファイルは go1.8 未満の場合しかビルドされなくなります。あとは go1.8 以降のバージョンでビルドされる様に go1.8 の build constraints が付いた、ワークアラウンドを実行しないファイルを用意します。

// +build go1.8

package foo

import (
    "archive/zip"
)

func FileInfoHeader(fi os.FileInfo) (*zip.FileHeader, error) {
    // ワークアラウンドしないコード
    size := fi.Size()
    fh := &zip.FileHeader{
        Name:               fi.Name(),
        UncompressedSize64: uint64(size),
    }

    fh.SetModTime(fi.ModTime())
    fh.SetMode(fi.Mode())
    var uintmax = uint32((1 << 32) - 1)
    if fh.UncompressedSize64 > uint64(uintmax) {
        fh.UncompressedSize = uintmax
    } else {
        fh.UncompressedSize = uint32(fh.UncompressedSize64)
    }
    return fh, nil
}
これで、go1.7 未満であればワークアラウンドが実行されるバイナリが、go1.8 以降であればワークアラウンドを実行しないバイナリが生成されます。

build constraints については、みんなのGo言語にて説明と用法含めて書かれています。

数年前 Twitter の API はベーシック認証、かつ Public な API だったので Twitter Bot なんて楽ちんで作れたのですが、最近は認証は OAuth、Public な API も無くなってしまい Bot を作るのはとても難しくなりました。

やりたい事はそんなに大した事ではないのに、認証のおかげでコードも大きくなりがちで、気付けば本体コードよりも認証用のコードの方が多くなってしまう事もあります。Bot を作りたいのに敷居が高くて手を出せない、なんて思っている方も多いかもしれません。

でももし Twitter Bot がシェルで書けたら、簡単だと思いませんか？実は twty というツールを使うと簡単に Twitter 連携アプリケーションが作れてしまうのです。

GitHub - mattn/twty: command-line twitter client written in golang

README.md twty A command-line twitter client Install Install golang environment. see: http://golang....

https://github.com/mattn/twty

twty は端末で Twitter をする為のコンソールアプリなのですが、実はストリーミングを表示する -S オプション、出力を JSON にする -json オプションがあります。ですので出力を grep したり jq で加工したり出来るのです。

twty のインストールは以下の手順で行います。 go get github.com/mattn/twty


先に twty を1回起動しておいて下さい。もし既にログイン済みで、通常アカウントと異なるユーザで Bot を実行したいならログアウトし直して PIN コードを入力して下さい。

また通常 twty を使うユーザと Bot ユーザを分けたい場合は、twty に -account xxx フラグ(xxx は人気)を付けて起動して下さい。以降のソースコードでも変更が必要です。

まずは以下のソースコードを見て下さい。

#!/bin/sh

twty -json -S | while read -r LINE; do
  TEXT=`echo "$LINE" | jq -r .text`
  ID=`echo "$LINE" | jq -r .id_str`
  SCREENNAME=`echo "$LINE" | jq -r .user.screen_name`
  if echo "LINE" | grep -q '^RT @'; then
    continue
  fi
  if echo "$LINE" | grep -q 'ぬるぽ'; then
    twty -i $ID "@$SCREENNAME ｶﾞｯ"
  fi
done


このコードは、twty から JSON ストリーミングを出力させ、1行毎に while ループが実行されます。ループ内では TEXT と ID、SCREENNAME を jq を使って取得し、grep で RT を除け、「ぬるぽ」という発言を検知したら twty を使って「ｶﾞｯ」を返信します。その際 -i オプションでリプライID(in-reply-to)を指定しているのでちゃんと返信として発言します。

たったこれだけのソースですが、「ぬるぽ」の発言に「ｶﾞｯ」を応答する Bot が出来ました。簡単ですね。

アイデアさえあれば色んな物が作れるはずです。

また発言に対するアクションが既に外部コマンドとして存在し、返信する必要もない場合には jsonargs が使えます。

GitHub - mattn/jsonargs: xargs for JSON stream

README.md jsonargs xargs for JSON stream Usage input data { "name": "foo1", "value": "bar1" } { "nam...

https://github.com/mattn/jsonargs

xargs の json ストリーミング版と思って下さい。例えば Twitter のタイムラインストリーミングを加工して外部コマンドを起動するのであれば以下の様に実行します。

twty -S -json | jsonargs my-command {{.user.screen_name}} {{.text}}


my-command というコマンドの第一引数に発言者の名前が、第二引数に発言内容が渡されます。

引数は golang の text/template のフォーマットで記述します。

template - The Go Programming Language

Package template implements data-driven templates for generating textual output.

https://golang.org/pkg/text/template/

応用例として、Twitter のタイムラインをデスクトップの画面に通知するコードを書いてみます。Mac であれば gntp-send の代わりに growl-notify を使うといいかもしれません。(Windows の場合は Growl for Windows が必要です)

twty -S -json | jsonargs gntp-send {{.user.screen_name}} {{.text}} {{.user.profile_image_url}}


今あるツールを組み合わせて簡単に Twitter と連携できる様になりました。認証が難しいから Twitter 連携ツールが作れない、そんな風に思っておられたならぜひ twty を使ってみて下さい。