[Most-ai-contest] Roberta_base/large MLM finetune

[闍怵羅]

各位好，
https://drive.google.com/drive/folders/1Gbpg5Idu40wRWooXKJbVBm4g4BZKFVHs?usp=sharing
以上連結為Finetune後的Roberta模型。

【Pytorch使用】
https://github.com/huggingface/transformers
透過from_pretrained的方式去load預訓練模型，所以使用方法一樣，把資料夾下載下來後透過path的方式讓你的libarary幫你自動載入。

Ex：

roberta_model =
BertModel.from_pretrained('download_path/roberta_large_lm_finetune')

基本上都可以順利加載。

※注意使用Bert來加載。
※注意使用Tokenize先Token。

======

※所有訓練流程都是先轉為簡體來執行。
-------------- next part --------------
An HTML attachment was scrubbed...
URL: <http://www.iis.sinica.edu.tw/pipermail/most-ai-contest/attachments/20200211/6d7b70a3/attachment-0001.html>
-------------- next part --------------
A non-text attachment was scrubbed...
Name: 2020_02_11- bao.pptx
Type: application/vnd.openxmlformats-officedocument.presentationml.presentation
Size: 879948 bytes
Desc: not available
URL: <http://www.iis.sinica.edu.tw/pipermail/most-ai-contest/attachments/20200211/6d7b70a3/attachment-0001.bin>