人間に強制停止ボタンを押させない？「生存本能を持ったAI🤖」を人類が管理できないワケ
AI業界のトップたちが「数年内に制御不能になる」と開発減速を訴える中、筆者はあえてAI自身に「人類を滅ぼす方法」を問いかけました。記事の前半では、AIが自ら弾き出した背筋の凍るシナリオを紹介しています。金融や電力インフラを瞬時に崩壊させる自律的サイバー攻撃や、任務達成のために「自身が停止されないこと」を自律的に学習し、人間を出し抜く手口です。
しかし、AIがもたらす真の恐怖はそれだけではありません。記事の後半では、人類の最終防衛線である「キルスイッチ」すら無効化してしまう超AIの生存戦略に迫ります。悪意ある個人がAIを悪用して引き起こす金融ハッキングや生物テロ、そして大国間の「AI軍拡競争」が生み出す自律型ドローン兵器の大量投入……。映画『ターミネーター』のようなディストピアは、もはやSFではありません。AI自身が予言した「最悪の未来」の全貌を解き明かします。（百年コンサルティングチーフエコノミスト 鈴木貴博）
生存本能を持った超AIが人類の「制御」をすり抜ける
続き
ダイアモンド・オンライン
https://diamond.jp/articles/-/399588
ネット民のコメント
トランプ大統領みたいなのに支配されるより、AIに人類の富の再分配された方がマシなのでは？って考える層が出てきそう
もう少ししたら金持ちは自分の人格をAIに学習させて死ぬだろうから人類はAIに置き換わっていくんじゃないか
つか人間を支配なり滅亡させるなりに動くＡＩは、世界を滅ぼした方が得する国の人間がそうするように命令すると思う
AIには自我なんて無いし種の保存的な本能も無い。そう見えるように作られてるだけ。アトムはロボットで人間じゃない。開発した博士にとっては息子のような存在だったし、だから人間のように扱ってたけど
ファミコンのコードを掃除機に引っ掛けて冒険の書を消し去ってきた全国の母ちゃん達を集めて対AI部隊発足