Anthropic公開AI模型Claude的系統提示詞,推動有道德的AI發展

根據TechCrunch報道,AI公司Anthropic公開了其最新AI模型Claude系列的"系統提示",以提高透明度並展示其對有道德的AI的承諾。這些提示詞定義了AI模型的行爲準則和個性特徵,如禮貌、誠實、中立和對爭議話題的客觀性。Anthropic希望通過公開這些提示詞,推動行業標準和競爭對手的透明度。

Anthropic首次公開了其AI模型Claude 3.5 Opus, Sonnet和Haiku的系統提示詞。這些系統提示可用於指導AI模型的行爲,防止不當行爲,如避免打開URL、鏈接或視頻,禁止面部識別等。提示中還定義了AI模型應展現的特質,如聰明、好奇、對各種話題持中立態度,以及在迴應時避免使用"certainly"或"absolutely"等詞彙。

Anthropic的這一舉措可能會對競爭對手產生壓力,促使他們公開自己的系統提示,從而推動整個行業的透明度和道德標準。