Anthropic首度公開3大AI發展指標！算力6%投入AI安全 響應阿莫戴減速訴求

Anthropic周四(17日)公布三項新指標，表示這些指標可協助人工智慧(AI)公司監測AI發展速度，這與幾天前執行長阿莫戴(Dario Amodei)對業界協調放慢AI發展速度的說法相呼應。

Anthropic在部落格文章中表示，是在衡量AI主導的研發活動、AI代理人的監督，以及Anthropic內部的算力配置之後，公布衡量模型開發速度的方法，希望鼓勵其他組織採取相同做法。

這些指標建立在阿莫戴上周六公布的三階段「放慢發展」計畫上，但當時對實際執行方式的具體細節並未多著墨。

Anthropic在文中說：「當全世界思考如何控制先進AI的發展速度時，我們應盡一切努力，縮小尖端AI實驗室所掌握的資訊與公眾所知資訊之間的差距。這意味著更完善的衡量AI發展、公開相關資訊，並讓社會有機會決定如何使用這些資訊。」

AI業界響應放慢發展 盼兼顧商業優勢

阿莫戴針對放慢AI發展速度的呼籲，獲得OpenAI執行長奧特曼(Sam Altman)、SpaceX執行長馬斯克，以及Google DeepMind董事長Demis Hassabis等產業領袖支持。

這項呼籲也發生在研究人員對AI造成傷害的潛力日益升高提出嚴重警告之後。

阿莫戴表示，他的計畫旨在控制模型能力提升的速度，同時不「犧牲商業優勢或美國在AI領域的領先地位」。

對於第一項指標，Anthropic表示，在衡量的部分研發工作中，自家的Claude模型「並非完全自主運作」。

第二項指標則涉及建立一套系統，用來監督及介入AI代理人採取的行動。Anthropic表示，該公司最常使用的內部平台上，任何時點約有3萬個AI代理人同時從事研究與工程工作。

Anthropic公布算力配置 約6%用於AI安全

第三項指標則是Anthropic針對7月13日至20日期間，所有算力的使用概況。

結果顯示，在投入AI研發的算力中，約6%配置於安全相關工作。若單看分配給「AI驅動」研發工作的算力，約12%用於安全工作。

Anthropic表示，這些指標最適合用來呈現AI模型是如何被建立，並應與能力評估相互補充，能力評估則是用來呈現「模型能做什麼」。綜合這些資訊後，AI實驗室以外的第三方應可據此取得一個「起點」，進一步評估AI發展速度。

Anthropic表示：「我們希望透過公布這些衡量結果，為透明度樹立典範，而且我們將持續公布相關數據。」