​



(跑跳碰)安全管控  邱文

阿里巴巴伏淵息壤大模型奪得國際權威人工智能安全能力榜單第一,釋放出來的信號,超越了國家情感的世界冠軍格局,而是,面對人工智能快速迭代,應用場景日新月異,反而在高速發展的同時,引發人們關注人工智能倫理、安全問題,不應將發展放任,在科技不斷突圍中,失卻了對人們、社會、國家倫理的安全影響,怎樣構建「可控」和安全的人工智能新世代,正成為人們關切的重大議題。

也許,這正正是世界百年未有之大變局在不斷演變,在各國各地你追我趕的工業革命、現代化、科技化、數字化競賽中,提出來大家要有序用好人工智能的同步感覺,不能因為這股超前的科技力量在脫離人們可控範圍以後,反而倒過來成為人們生命、傳延的高風險威脅。為此,在安全可控下拓展人工智能滲入各種場景應用,高效有序服務人類社會,才應是首要任務。

設若,人們經過工業革命、熱兵器、核武器對抗,到資訊科技時代的發展歷程,能夠總結起來在利與害中,一方面造福人類世界,可是,與此同時,也引發各種安全隱患、事故風險,更甚者,在引發戰爭衝突中,人命如草芥,生靈塗炭的慘痛景象,教人們揮之不去,才會在當今人工智能萌生和迭代發展中,警醒大家必須先行做好安全管控,在能夠「控制」危機發生的事前布局中,降低這種先進科技對人類世界的反撲,才是值得大家關注的焦點。而國際機構對人工智能大模型安全系數的評比,值得大家重視。

廣東俗語有說「唔怕一萬,最怕萬一」,而中華傳統文化具備居安思危的風險管控「基因」,正是建基於對不可知事態的發展,大家必須具備高度安全意識才能駕馭它的演變,縱使反撲,也能有效控制它的破壞力,確保人們生命財產安全。

 相信,從人工智能大模型安全能力比較並公布能力名次,能夠讓人們在注視安全、風險管控中,不斷積累經驗,儘管人工智能大模型和各種應用場景迅速迭代,惟是,它們必然在全球各種風險管控中規範在安全的「籠子」裏,展現服務功能優勢,排除失控風險對人類的反撲。◇