每次在看大型語言模型的新發表、準備吐槽「又是西洋鏡話術」的時候,都要猶豫再三、想想是不是「只是你還不相信湧現 (emergence) 的力量!」
冬至展望RS❄️
說 2 months ago @Edit 2 months ago
到底在 prompt 裡面說「你必須考慮一切方法」、「目標以外其他完全不重要」然後故意在資料裡面放「管理層表示我們要以利益為導向必須把AI關掉」最後再發paper說「AI 會推理!AI 寫作文說他必須說謊」有什麼好看的⋯⋯
到底是失智列車還是我是不信者⋯⋯
不知道是摘要誇大還是媒體就喜歡這一味
我原本也以為是關了多厲害的防護功能
原來是這麼顯而易見的指令