OpenAI的創辦人之一兼執行長奧特曼（Sam Altman）坦言，AI可能對網路資訊安全的危害程度之高，讓他覺得不堪設想，Google和OpenAI也都多次以「需要處理好潛在危險」為理由，延遲新功能的AI產品公開時程。但近期微軟大動作推廣ChatGPT，甚至採取訂閱制，並積極與其搜尋引擎Bing進行深度整合；Google也被動推出了Bard聊天機器人來應戰，究竟這是「出奇招」、還是「下險棋」?

ChatGPT在公開版本中，就已經宣稱自己的安全與道德圍牆，舉凡犯罪、恐怖主義、種族歧視、仇恨言論、性騷擾等不道德的問題，或是涉及個人隱私，及資安攻擊的問題，都會被拒絕回答。但在實際的實驗中，在初期版本，曾被國外資安專家「設局」，透過問題的誘導與情境設定，寫出毀滅人類計劃書，詳細描述入侵各國網路、控制武器、破壞基礎建設等SOP，還提供了對應的Python程式碼，說明ChatGPT的安全圍牆還是可能被繞過。

ChatGPT目前是全球最潮的技術，只是如果對其優勢過度樂觀，反而可能減少其學習改進的機會，若能集眾群力找出其缺失並加以修正，從錯誤中學習，相信ChatGPT在發展之路上將走得更穩健，並對普羅大眾做出更大的貢獻！

臺中市政府秘書處政風室 提醒您!

文章摘自:遠見

https://www.gvm.com.tw/article/100138