AI教學藏風險 教部籲謹慎使用

教育部指出，生成式AI恐泄漏個人與組織的隱私與機密，且過度依賴它會侵犯智慧財產權與違反學術倫理，教學及學習上必須謹慎使用。圖爲示意圖。（路透）

AI爲生活帶來便利，但也可能造成負面影響。教育部最近提出「中小學生使用生成式人工智慧注意事項」指出，生成式人工智慧可能泄漏個人與組織的隱私與機密，且過度依賴它會侵犯智慧財產權與違反學術倫理，必須謹慎使用。

教育部提出的「中小學生使用生成式人工智慧注意事項」，分爲「教師、行政人員及家長版」及「學生版」，希望老師在教學及學生學習上若使用到生成式人工智慧工具，應以正確觀念來看待，纔不會教出問題。

教育部提醒老師，使用人工智慧工具生成教案、試題、計劃等相關教學內容時，須謹慎檢視內容及用詞是否符合教育現場的使用標準。同時，老師應規範使用生成式人工智慧於學業的時機與方式，並提醒學生使用時可能侵害他人的智慧財產權，以及有違反學術倫理的疑慮，如未提供出處將造成概念上的抄襲。

教育部還說，部分用來訓練生成式人工智慧的資料庫，目前在取得、儲存和使用上都還沒有完備的法令、規範及倫理上的監管機制。因此，在使用生成式人工智慧工具時，提供的個人資料、敏感訊息及機密數據，都可能會被收錄到訓練資料庫中，作爲未來回應他人的內容，這將造成個人隱私或公司機密外泄。

教育部告訴學生，生成式人工智慧工具的資料來源是歷史紀錄與舊經驗，如果這些資料本身具有成見或錯誤，那使用時也會存在偏差或錯誤。例如要求生成式人工智慧建議旅遊行程，答案可能會來自各種網路遊記文章的綜合體，也可能提供一份不順路、非當季的活動，甚至是虛構景點的行程。