檢查檔案頭，即檔案的頭幾個位元組。常見的 MIME Type 解析也是這個原理。因為閣下的需求非常簡單，所以這裡我也就不推薦用於 MIME 類型判斷的第三方封裝了。
RTF 定義類型的頭幾個位元組經搜尋查詢得出是（十六進位）：7B 5C 72 74 66
所以只需要讀取檔案的頭五個位元組，然後轉換成16 進位形式表現的字串，再與「7b5c727466」比較即可判斷是否為RTF 類型。

FileInputStream fis = new FileInputStream(file);
byte[] bytes = new byte[5];
fis.read(bytes, 0, bytes.length);
fis.close();
StringBuffer header=new StringBuffer();
for (byte b : bytes) {
    String hex=Integer.toHexString(b);
    if(hex.length()<2){// 两位以下补〇
        header.append('0');
    }
    header.append(hex);
}
boolean isRTF="7b5c727466".contentEquals(header);