AWS Athena 分析日志

AWS里面可以用Athena來分析S3里面保存的日志，他把日志轉換成數據庫表的格式，這樣就可以通過sql語句進行查詢了。這個功能和在windows服務器上用logparser來分析Exchange或者IIS的日志很相似。

下面做個演示，通過Cloudtrail記錄管理日志，然后通過Athena來查詢日志內容。

首先選擇CloudTrail, CloudTrail 是一個日志記錄的服務，他和cloudwatch的區別在于這個服務更多是側重于審計，他的內容都是關于什么時候，什么賬號，從什么IP上進行了什么操作。

點擊 Create Trail

取個名字， 創建一個新的S3 bucket來保存日志

創建好之后可以看見他自動已經在記錄最新的日志了

然后選擇 Athena

跳過向導，直接進入查詢器的編輯器，這里是編輯SQL語句的地方。這里我直接創建一個的數據庫

下面來創建一個表，從指定的S3 Bucket里面獲取數據。
我們可以通過向導創建，但是比較繁瑣

比較容易的是通過腳本創建，注意最后一行S3存儲桶的地址

CREATE EXTERNAL TABLE cloudtrail_logs (
eventversion STRING,
useridentity STRUCT<
               type:STRING,
               principalid:STRING,
               arn:STRING,
               accountid:STRING,
               invokedby:STRING,
               accesskeyid:STRING,
               userName:STRING,
sessioncontext:STRUCT<
attributes:STRUCT<
               mfaauthenticated:STRING,
               creationdate:STRING>,
sessionissuer:STRUCT<  
               type:STRING,
               principalId:STRING,
               arn:STRING, 
               accountId:STRING,
               userName:STRING>>>,
eventtime STRING,
eventsource STRING,
eventname STRING,
awsregion STRING,
sourceipaddress STRING,
useragent STRING,
errorcode STRING,
errormessage STRING,
requestparameters STRING,
responseelements STRING,
additionaleventdata STRING,
requestid STRING,
eventid STRING,
resources ARRAY<STRUCT<
               ARN:STRING,
               accountId:STRING,
               type:STRING>>,
eventtype STRING,
apiversion STRING,
readonly STRING,
recipientaccountid STRING,
serviceeventdetails STRING,
sharedeventid STRING,
vpcendpointid STRING
)
ROW FORMAT SERDE 'com.amazon.emr.hive.serde.CloudTrailSerde'
STORED AS INPUTFORMAT 'com.amazon.emr.cloudtrail.CloudTrailInputFormat'
OUTPUTFORMAT 'org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat'
LOCATION 's3://mycloudtrailbucket-faye/AWSLogs/757250003982/';

創建表成功的樣子

下面我們可以進行一個簡單的查詢，結果如下。