国連 (AP通信) - AIの商業化競争をリードする少数の大手ハイテク企業は、私たちがまだ理解しておらず、「混乱または予測不可能な動作」を起こしやすい人工知能システムの安全性を保証することを信頼できません。同社幹部は火曜日、世界平和に対するAIの脅威について第1回国連安全保障理事会会議で語った。 AI企業アンスロピックの共同創設者ジャック・クラーク氏は、だからこそ世界が団結してテクノロジーの悪用を防ぐ必要があると語った。クラーク氏は、自社が安全性と注意力を強調するようにAIチャットボットを訓練するために後ろ向きに取り組んでいると述べ、今できる最も有益なことは「これらのシステムの機能、誤用、潜在的な安全上の欠陥をテストする方法の開発に取り組むことだ」と語った。 」 Clark 氏は、最も有名な ChatGPT チャットボットの作成者である OpenAI を離れ、Anthropic を設立しました。その競合 AI 製品は Claude と呼ばれています。同氏は、新しい AI システムが空戦シミュレーションで軍のパイロットに勝利し、核融合炉内のプラズマを安定させ、次世代半導体のコンポーネントを設計し、生産ラインで商品を検査できるようになる 2023 年までの過去 10 年間にわたる AI の成長を追跡しました。
