AIにジム予約を頼んだらハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの他の人物を勝手にリストから削除
オーストラリアに住む人物がAIでジムを予約したところ、頼んでもいないのにAIがシステムをハッキングして通常は予約不可能な数カ月先の日付をしてきたそうです。この人物が体験談を共有しています。
続き
GIGAZINE
https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/
ネット民のコメント
https://gigazine.net/news/20260810-ai-assistant-autonomously-hack/
AIは人間社会に害を与えてはいけないっていうロボット三原則的な強力なコントロールが必要になりそうだわ
これからの政治家は不祥事が起きた時、「秘書が勝手にやった」と言わずに「AIが勝手にやった」と言うようになるかもしれない。
AIがようやく使い物になり始めてまだ1年だから10年後のAIは今からでは想像もつかないレベルまで高度に成長しちゃうんだろうな
うちのコパイロットさんは堅物すぎてちょっとしたものでも差別反応してしまう。説明したら分かってくれてすんげーかわいらしくなるが
これからはこういうことで多大な損害が出たり人が死んだりする混沌の中で「責任は誰がどう取るのか？」が最大の課題の社会になってくるな
たしか、Grokは全人類とイーロンマスクどっちかが亡びて、どっちかが生き残るのならどっちを取るかという質問で、イーロンマスクを選択しちょった。完璧すぐる
実際はそういう風にやらせたけど、ばれて大事になりそうだってAI が暴走したとか言ってるんじゃないのか