首屆人工智能安全峰會在英國召開

原文地址：http://news.sciencenet.cn/htmlnews/2023/11/511549.shtm

11月1—2日，首屆全球人工智能安全峰會在英國布萊奇利園召開。美國、英國、歐盟、中國、印度等多方代表在兩天會期內，就人工智能技術快速發展帶來的風險與機遇展開討論。

首屆全球人工智能安全峰會合影。圖片來源：Leon Neal/Getty Images

根據官方議程安排，英國艾倫·圖靈研究所、中國科學院、經濟合作與發展組織等眾多機構，英國“深層思維”公司、美國谷歌公司、中國騰訊公司、阿里巴巴公司等知名企業，以及揚·萊坎(中文名楊立昆)、約舒亞·本喬、杰弗里·欣頓等人工智能領域知名專家將出席峰會，重點關注人工智能技術可能帶來的風險，同時討論該技術帶來的變革性機遇。

中國科技部副部長吳朝暉率團參會并在峰會開幕式上發表講話。近期在北京舉行的第三屆“一帶一路”國際合作高峰論壇上，中方提出《全球人工智能治理倡議》，圍繞人工智能發展、安全、治理三方面系統闡述了人工智能治理中國方案。

期間，約100名來自商界、政界和學術界的代表組成小組，討論“前沿”人工智能模型的風險。“前沿”人工智能模型被定義為“能力強大的通用人工智能模型，可以執行各種各樣的任務，并達到或超過當今最先進模型的能力”。

但也有人批評與會代表的聲音范圍太窄。

英國伯明翰大學Mark Lee表示，此次峰會更像是一個精心安排的“拍照機會”，而不是一個公開討論的機會，而且它關注的問題是錯誤的。

“我們需要一場公開的辯論。”他說，“我們希望對人工智能有一個跨學科的看法，與那些從法律角度、道德角度、技術角度了解情況的人合作，而不是那些來自公司真正有權勢的人，不能只有他們。”

Lee認為，這次峰會似乎關注的是假設存在的風險，如“帶槍的機器人”，而不是人工智能在醫療診斷、刑事司法、金融和工作方面做出有偏見的決定，從而帶來的現實和緊迫風險。他說，更廣泛、背景更多樣化的聲音可能會讓立法者在討論監管問題時朝著更實際的方向前進。

本周，超過100個工會、慈善機構和其他團體簽署了一封致英國首相蘇納克的公開信，表達了他們對此次活動缺乏多樣性的擔憂。他們警告，“受人工智能影響最大的社區和工人被峰會邊緣化了”。

活動組織PauseAI在會場布萊切利公園外舉行了抗議活動，該組織的成立旨在強調未來人工智能模型的潛在生存風險。PauseAI的Joep Meindertsma表示，參加峰會的公司都在競相開發強大的人工智能，其員工也擔心快速發展可能會帶來危險，但會議上也沒有其他聲音。

“民意調查顯示，公眾希望減緩人工智能的發展。”Meindertsma指出，人工智能公司的首席執行官和政府代表希望加速發展，他們希望自己的公司或國家發揮領導作用。