（美通社頭條）《國際人工智能安全報告》首次關(guān)鍵更新已發(fā)布，就先進(jìn)人工智能的能力與風(fēng)險提供了最新信息。該報告由圖靈獎得主、計(jì)算機(jī)科學(xué)家Yoshua Bengio總體負(fù)責(zé)，匯集了100多位國際專家，并得到30多個國家以及包括歐盟、經(jīng)合組織和聯(lián)合國在內(nèi)的國際組織的支持。

首個《關(guān)鍵更新》涵蓋能力提升和風(fēng)險影響：

人工智能模型在復(fù)雜問題解決能力上持續(xù)提升：例如，領(lǐng)先的系統(tǒng)現(xiàn)已能完成一組現(xiàn)實(shí)世界軟件工程問題中超60%的任務(wù)。到2025年初，他們只能解決約40%的相關(guān)問題，而在2024年初他們尚無法解決任何問題。

行業(yè)參與者已經(jīng)采取了新的預(yù)防性保障措施：多家主要人工智能開發(fā)商在無法完全排除其新模型可能被用于協(xié)助開發(fā)化學(xué)、生物、放射和核風(fēng)險的情況下，主動為最新模型增加了額外安全措施后發(fā)布。

人工智能模型在評估過程中日益表現(xiàn)出策略性行為，給監(jiān)管帶來挑戰(zhàn)：人工智能模型越來越可能意識到自己正在接受評估，并據(jù)此調(diào)整輸出結(jié)果，這對開發(fā)人員和測試人員在部署新模型之前準(zhǔn)確評估新模型能力的能力提出了重大質(zhì)疑。