DaveC
2 days ago
Facebook
當Claude的回答偏離預期時,可以直接詢問:「你為什麼這樣回答?」或「你是基於什麼資訊得出這個結論?」這樣的對話能揭示模型背後的邏輯,幫助你瞭解AI的決策過程。
DaveC
2 days ago
▌哲學助力AI設計

例如,當面對涉及道德兩難的問題時,Claude不會簡單選擇其中一個立場,而是會探討不同選擇的潛在後果,幫助用戶更全面地看待問題。
.
.
上面的AI角色設定,很大一部分來自於Askell的哲學背景,她是紐約大學的哲學博士,博士論文的題目非常酷:無窮倫理(infinite ethics)。
.
簡單來說,她提出了一個問題,如果這個宇宙會永恆膨脹,則可能包含無限多的智慧生命,那當我們要採取任何政策來計算是否弊大於利的時候,到底該用什麼單位作為基礎單位呢?是某些「個體」?是某段「時間」還是某個「空間」?
DaveC
2 days ago
你不需要看懂她的博士論文,但你可以有個更清楚的輪廓:現在正在引領AI時代變革的團隊是怎麼煉成的,在她看來,哲學訓練的邏輯性和倫理分析能力為AI的設計提供了堅實的基礎。
.
「哲學教會了我們如何思考抽象的價值問題,這讓我們在設計AI時,能考量更廣泛的人性與倫理因素。」
.
Askell指出,這不僅讓Claude能以清晰而準確的方式進行對話,也使它在涉及複雜的社會問題時,更能遊刃有餘。因此Askell特別強調多元背景的重要性。她鼓勵來自哲學、社會學等非技術領域的人參與AI開發,因為他們能帶來獨特的視角,幫助技術團隊更全面地處理AI的社會影響。
立即下載