OpenAI的創辦人之一兼執行長奧特曼(Sam Altman)坦言,AI可能對網路資訊安全的危害程度之高,讓他覺得不堪設想,Google和OpenAI也都多次以「需要處理好潛在危險」為理由,延遲新功能的AI產品公開時程。但近期微軟大動作推廣ChatGPT,甚至採取訂閱制,並積極與其搜尋引擎Bing進行深度整合;Google也被動推出了Bard聊天機器人來應戰,究竟這是「出奇招」、還是「下險棋」?
ChatGPT在公開版本中,就已經宣稱自己的安全與道德圍牆,舉凡犯罪、恐怖主義、種族歧視、仇恨言論、性騷擾等不道德的問題,或是涉及個人隱私,及資安攻擊的問題,都會被拒絕回答。但在實際的實驗中,在初期版本,曾被國外資安專家「設局」,透過問題的誘導與情境設定,寫出毀滅人類計劃書,詳細描述入侵各國網路、控制武器、破壞基礎建設等SOP,還提供了對應的Python程式碼,說明ChatGPT的安全圍牆還是可能被繞過。
ChatGPT目前是全球最潮的技術,只是如果對其優勢過度樂觀,反而可能減少其學習改進的機會,若能集眾群力找出其缺失並加以修正,從錯誤中學習,相信ChatGPT在發展之路上將走得更穩健,並對普羅大眾做出更大的貢獻!
臺中市政府秘書處政風室 提醒您!
文章摘自:遠見
https://www.gvm.com.tw/article/100138