当ページでは、CSA Data Uploaderで利用可能な変換・加工処理の一覧を紹介します。
変換・加工処理一覧
列操作
カラム選択
分析環境にアップロードする際に不要なカラムを(ファイル時点で)除去しておきたい場合、「カラム選択」を使う事でカラム毎の選択・除去が行えます。
カラムの並び替え
対象となるカラムの順番を変更したい場合、「カラムの並び替え」を使うことで任意の順番での入力ファイルのカラム表示位置の変更が行えます。
カラムの追加
データに基づいたカラムを別途用意したい場合、「カラムの追加」を使うことで任意の値を持ったカラムを追加することが出来ます。
利用可能な選択肢は以下の通り。
- ファイルパス(=バケット配下のフォルダ及びファイル名)
- ファイル名(ファイルパスからフォルダ部分を除いたもの)
- データ番号(1始まりで1ずつ増分)
データ整形
マスキング
何らかの理由によりカラムの値を所定の文字で埋める等のマスク処理を行いたい場合、「マスキング」を使う事で指定したカラムに対して所定のマスク処理を施す事が出来ます。マスク処理の方法はカラム毎に個別指定が可能です。
部分抽出
「指定された文字位置にある指定された文字数の文字を、文字列から抽出して返す」処理を行いたい場合、「部分抽出」を使う事で任意の文字列抽出を行えます。カラム毎の個別指定が可能となっています。
処理の挙動はAmazon Redshiftにおける「substring」関数と同様です。
置換
「対象文字列内の条件に合致する要素を、指定した文字列に変換する」処理を行いたい場合、「置換」を使う事で実現が可能です。カラム毎の個別指定が可能となっています。
変換のタイプは下記2種類が選択可能です。
- 文字列置換:合致する条件の文字列(検索文字列)、条件に合致した文字列をどのような文字列に置き換えるか(置換文字列)を指定。
- 正規表現置換:正規表現を用いて検索を行いたい文字列(検索文字列)、条件に合致した文字列をどのような文字列に置き換えるか(置換文字列)を指定
- 正規表現のシンタックスについては、Googleがライブラリとして提供している『RE2』に準拠しています。
制御文字の削除
ヌル文字やバックスペースに代表される「制御文字」を所定のカラムから除去したい場合、「制御文字の削除」を使う事で実現が可能です。カラム毎の個別指定が可能となっています。
- タブ文字・改行文字は当処理では対象外となっています。
- 対象となる制御文字の一覧は以下の通りです。
略語 | 値(16進数) | 名前/意味 |
---|---|---|
NUL | 0x00 | ヌル文字 |
SOH | 0x01 | ヘディング開始 |
STX | 0x02 | テキスト開始 |
ETX | 0x03 | テキスト終了 |
EOT | 0x04 | 伝送終了 |
ENQ | 0x05 | 問い合わせ |
ACK | 0x06 | 肯定応答 |
BEL | 0x07 | ベル |
BS | 0x08 | バックスペース |
VT | 0x0B | 垂直タブ |
FF | 0x0C | 書式送り |
SO | 0x0E | シフトアウト |
SI | 0x0F | シフトイン |
DLE | 0x10 | 伝送制御拡張 |
DC1 | 0x11 | 装置制御1 |
DC2 | 0x12 | 装置制御2 |
DC3 | 0x13 | 装置制御3 |
DC4 | 0x14 | 装置制御4 |
NAK | 0x15 | 否定応答 |
SYN | 0x16 | 同期信号 |
ETB | 0x17 | 伝送ブロック終結 |
CAN | 0x18 | 取消 |
EM | 0x19 | 媒体終端 |
SUB | 0x1A | 置換 |
ESC | 0x1B | エスケープ |
FS | 0x1C | ファイル分離 |
GS | 0x1D | グループ分離 |
RS | 0x1E | レコード分離 |
US | 0x1F | ユニット分離 |
DEL | 0x7F | 削除 |
先頭/末尾の文字列を削除
任意の文字列を対象カラムから除去したい場合、「先頭/末尾の文字列を削除」を使うことで実現が可能です。カラム毎の個別指定が可能となっています。
- 除去する文字列が未入力の場合、所定の条件で「空白を除去」する挙動となります。
- ここでの「空白」の定義は以下のものが該当します。
- 半角空白
- 全角空白を削除対象としたい場合は任意の文字列として全角空白を入力してください。
大文字へ変換
対象カラムの英字文字列を全て大文字に変換したい場合、「大文字へ変換」を使う事で実現が可能です。
- 対象となる英字文字列は半角及び全角のものが対象となります。
- 上記以外の文字列は変換対象には含まれません。
小文字へ変換
対象カラムの英字文字列を全て小文字に変換したい場合、「小文字へ変換」を使う事で実現が可能です。
- 対象となる英字文字列は半角及び全角のものが対象となります。
- 上記以外の文字列は変換対象には含まれません。
パディング
対象カラムの空白文字・余白部分を任意の文字で任意の桁数分埋めたい(パディング)処理を行いたい場合、「パディング」を使うことで文字列加工を行えます。
処理の挙動はAmazon Redshiftにおける「LPAD/RPAD」関数と同様です。