Pipeline ツール

Pipeline には Python をベースにした Pipeline ツールが同梱されています。


butler

butler は hscPipe で生成されたカタログや画像データを検索、ロードするためのツールです。 データの読み込み方法はデータの種類によって変わります。 例えば、CORR 画像 (パイプラインの内部では ‘calexp’ と呼ばれます) は [visit, ccd] を指定し、 マルチバンド解析後の forced_src カタログ (パイプライン内部では ‘deepCoadd_forced_src’) は [tract, patch, filter] を指定します。 出力ファイル名とパイプライン内部での呼び方の対応は hscpipe/8.4/stack/miniconda3-4.7.10-4d7b902/Linux64/obs_base/8.1-hsc/policy/exposures.yaml, datasets.yaml, hscpipe/8.4/stack/miniconda3-4.7.10-4d7b902/Linux64/obs_subaru/8.4-hsc/policy などに記載されています。 例えば、 生成データ確認の例 を butler を使って行おうとすると、以下のようになります。

# hscPipe8 をセットアップ
setup-hscpipe

# python を起動
python

# butler を呼び出すための python モジュール
>>> import lsst.daf.persistence as dafPersist
# ds9 モジュールの呼び出し
>>> import lsst.afw.display.ds9 as ds9

# butler の呼び出し
# 解析 rerun を指定する
>>> butler = dafPersist.Butler("~/HSC/rerun/[rerun]")

# CORR 画像 (calexp) を読み込み、ds9 で表示
>>> dataId = {'visit':22222, 'ccd':43}
>>> corr = butler.get('calexp', dataId)
>>> ds9.mtv(corr)

# SRC カタログを読み込む
>>> cat = butler.get('src', dataId)
>>> cat
# 出力
#       <lsst.afw.table.tableLib.SourceCatalog; proxy of <Swig Object of type 'lsst::afw::table::SortedCatalogT< lsst::afw::table::SourceRecord > *' at 0x7f66e0d924b0> >
>>> cat['base_SdssCentroid_x']
# 出力
#       array([  718.        ,  1912.86014728,  1530.75661309,   573.97121016,
        1207.51468474,   484.28527248,    53.33994211,  1079.15382039,
        652.99781412,  1008.24738213,  1183.51441946,  1865.93879445,
        ...
        1241.45153334,   733.9278414 ,   723.57418556,   863.39894481,
        863.75880726,   751.31009308,   755.85760008,  1659.56569431,
        1632.        ])

# ds9 上にプロットする
>>> xs = cat['base_SdssCentroid_x']
>>> ys = cat['base_SdssCentroid_y']
>>> for x,y in zip(xs,ys):
...     ds9.dot('o', x, y, size=30)

以下は各種データ (target) のまとめです。

butler target 例
Target Output file name note Type dataId
bias BIAS-[dateObs]-[ccd].fits BIAS データ ExposureF visit, ccd
dark DARK-[dateObs]-[ccd].fits DARK データ ExposureF visit, ccd
flat FLAT-[dateObs]-[ccd].fits FLAT データ ExposureF visit, ccd
fringe FRINGE-[dateObs]-[ccd].fits FRINGE データ ExposureF visit, ccd
calexp CORR-[visit]-[ccd].fits sky引き込み1次処理済みデータ ExposureF visit, ccd
src SRC-[visit]-[ccd].fits 1次処理済データから作られる天体カタログ SourceCatalog visit, ccd
wcs wcs-[visit]-[ccd].fits mosaic 後の WCS 座標ファイル ExposureI tract, visit, ccd
fcr fcr-[visit]-[ccd].fits mosaic 後のフラックススケールファイル ExposureI tract, visit, ccd
deppCoadd_calexp calexp-[filter]-[tract]-[patch].fits 全 visit を足し上げたサイエンスイメージ ExposureF tract, visit, ccd
deepCoadd_forced_src forced_src-[filter]-[tract]-[patch].fits マルチバンド解析の最終測光カタログ SourceCatalog tract, visit, ccd