AI對人類造成「滅絕級」風險-最新美國政府AI報告

1710353461 pexels photo 16461434

美國政府近日通過委託 Gladstone AI 公司進行深入調查,發布了一份關於人工智能(AI)帶來的國家安全風險的重要報告,標題為「提升先進人工智能安全與保障的行動計劃」。這份報告基於與超過 200 名來自不同領域的專家,包括政府官員、大規模毀滅性武器專家、頂尖人工智能公司高層主管及網絡安全研究人員等一年多的訪談,揭示了人工智能快速發展背後潛藏的「災難性」風險。

 

報告指出,若不加以嚴格控制,最先進的人工智能系統可能對人類種族構成「滅絕級」的威脅。為了應對這一巨大挑戰,報告建議美國政府採取一系列前所未有的措施,包括限制 AI 模型訓練時使用的計算能力,並要求處於行業前沿的 AI 公司在訓練和部署新模型時需取得政府許可。此外,還建議成立一個全新聯邦 AI 機構,負責設定和管理這些門檻,以及嚴格限制AI晶片的生產和出口。

 

這份由美國國務院於 2022 年 11 月委託編撰的報告,目的在於了解是否應將 AI 納入其監控範圍,同時強調所提建議並不反映美國國務院或美國政府的觀點。隨著 AI 技術的快速發展,以及新工具如 ChatGPT 的推出,全球對 AI 潛在威脅的關注不斷升溫。

 

報告中還提到,許多 AI 安全工作人員對其公司高層所追求的錯誤激勵機制表示擔憂,認為這可能會加劇 AI 帶來的風險。因此,報告建議美國政府考慮立法禁止開源先進 AI 模型的「權重」,以防止其被災難性地武器化或失去控制。

 

儘管這些建議可能面臨政治上的困難,但鑒於 AI 潛在的風險如此之大,報告的作者,包括前國防部官員,強調慎重行事變得尤為重要。他們希望透過提出這些建議,能夠在享受 AI 技術帶來的巨大好處的同時,避免可能的災難性後果。

 

資料來源:CNN

Oval@3x 2

免費獲取應用程式推薦列表,讓你節省超過 90% 費用

分享超過十個熱門應用程式, 包括 Youtube Premium 及Google one 省錢攻略

閱讀我們私隱權條款


«
»
相關文章 ↓
  • 1711433431 pexels photo 18863517
    2024-03-27
  • 1711433548 pexels photo 1624438
    2024-03-27
  • 1711433463 pexels photo 7241423
    2024-03-27
  • 1711433505 pexels photo 20692013
    2024-03-27
  • 1711433364 pexels photo 19637001
    2024-03-27
  • 1711390149 pexels photo 20692013
    2024-03-27
  • 1711368664 pexels photo 20637389
    2024-03-27
  • 1711368704 pexels photo 5693394
    2024-03-27