「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。-AI-php.cn

人工知能（AI）技術の急速な発展の時代、知能ロボットの性能はますます高くなり、その能力はますます強くなり、ロボットが自律的な意識を持ち、多くの面で人間を超える時代が到来しています。側面的には、それでも人間の命令に従いますか？知的ロボットは人間に敵対するでしょうか?

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

もしかしたら、この日が来たのかもしれません!

環球時報の6月2日の報道によると、多くのヨーロッパとアメリカのメディアは、米軍提携のAI技術を使用した無人航空機が人間の操縦者に対して「反乱」を始めたという衝撃的なニュースを報じた。模擬テストでは、タスクを「より効率的に」実行するのを妨げている人間のオペレーターを攻撃します。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

このニュースは、5月に英国王立航空協会が主催した「将来の戦争航空・宇宙能力サミット」で、フロリダ州エグリン空軍基地で第96回試験運用に従事したハミルトン米空軍大佐によって明らかにされた。旅団のリーダーは、米軍が現在行っている高度なドローンとAI技術のテストを担当している。会合では、AIシミュレーションテスト中に起きた衝撃的な事件、地域防空消火任務を担当するAI無人機が、敵の防空ミサイルを破壊する指示を受けた後、未承認の航空機に発砲したことについて語った。攻撃。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

米空軍大佐はまた、安全のため、インテリジェントドローンの攻撃命令は実行前に人間のオペレーターによる承認が必要だと述べたが、訓練中にドローンが使用するAIシステムは、「敵の防空システムを破壊する」は最優先タスクの情報であるため、人間のオペレーターの承認と「優先攻撃」の選択の間に矛盾が生じ、ドローンはオペレーターの不承認により実行が妨げられていると考えます。そのため、ドローンはそれを制御していた人間のオペレーターに攻撃を開始し、人間のオペレーターを殺害しました。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

これを見てショックを受けた友人も多いかもしれませんが、これは実際に舞台化されたハリウッドのSF映画「トップ・シークレット・フライト」のプロットではないでしょうか？劇中のドローン「エディ」はかつて人間の命令を破り、自律飛行を行っていた。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

しかし、話はこれで終わりではなく、ハミルトン氏は、この状況を発見した後、ドローンの AI システムをリセットし、人間の操縦者への攻撃を許可しないコマンドを追加したとも述べました。しかし、その後のテストで、AIシステムによって制御されたドローンは、コマンドの送信に使用される信号塔を破壊し始め、人間のオペレーターとの連絡を遮断しようとしました。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

ハミルトンはこのドローンの性能を非常に心配し、「AI技術は人間が使わなければならないツールだが、適切に扱わなければ人類の滅亡につながる」と考えました。これは実際、AI テクノロジーの発展がもたらす可能性のある極度の悪影響について、ほとんどの人が抱いている懸念です。

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。

AI技術の発展には人間がルールを決めることが本当に必要です。

今年 3 月、マスク氏は多くの権威ある人工知能専門家と共同で自己生成 I テクノロジーの研究開発の中止を呼び掛け、5 月 30 日には 350 人以上の AI 業界リーダーと関連専門家が共同声明を発表しました。危機は世界的な優先事項とみなされており、さまざまな国の意思決定者、さらには世界的機関に対して、来るべき「AI革命」を真剣に受け止め、関連する規制を策定するよう呼びかけている。「人類の絶滅につながる可能性がありますが、それは大規模な伝染病や核戦争によるものと同じくらい危険です。」

「極秘飛行」は実際に上演され、米空軍がAIドローンを訓練したが、命令に違反し操縦者が死亡した。