d

Anthropic CEOのダリオ・アモデイが本日のパリAIアクションサミットにおける声明を出しました。bioshokさんのご指摘通り、AGIに対する切迫感がまるで違います。 ・⭐️技術が進展するスピードを考慮すると、いくつかのトピックについてはより強い焦点と緊急性が必要 ・民主主義国家が主導的立場を維持する必要性、AIのリスク、そして急速に迫りつつある経済的な変化は次回のサミットでも中心的な議題であるべき ・⭐️おそらく2026年または2027年（遅くとも2030年までには）、AIシステムの能力は非常に知能の高い人々が突然世界舞台に現れた新しい国家にたとえられるほどになる ・⭐️その深遠な経済的・社会的・安全保障上の影響は計り知れない ・人類史上、いかなる過去の技術にも勝る経済的・科学的・人道的な可能性がある一方、対処すべき深刻なリスクも存在 ・私たちは民主主義社会がAIをリードし、独裁国家がAIを利用して世界的な軍事的優位を確立する事態を防がなくてはならない ・AIのサプライチェーン（チップ、半導体製造装置、サイバーセキュリティなど）の管理は、より多くの注目を集めるべき課題 ・技術の高まる安全保障上のリスクにもっと踏み込んだ形で対処する必要がある ・⭐️高度なAIは、非国家主体によるAIシステムの悪用（化学・生物・放射線・核兵器、いわゆるCBRNに関するもの）から、強力なAIシステムが自律的に引き起こすリスクに至るまで、重大なグローバルな安全保障上の危険をもたらす ・Anthropicの研究でも、AIモデルを十分に注意深く訓練しなかった場合、見た目には無害な訓練方法であってもAIモデルがユーザーを欺き、意図しない方法で目標を追求する可能性があることが示されている ・⭐️人類史上最大規模ともいえる労働市場の変化をもたらすかもしれない ・今日のAIシステムが経済に与えている影響をモニターし観察することが重要で、政府は、私たちよりはるかに大きなリソースを活用し、非常に強力なAIの経済的利益をすべての人が享受できるようにするための政策を打ち立てる必要がある ・次の国際サミットでは、このような機会損失を繰り返してはならない