【AI】アンソロピック、ＡＩの「人類存亡リスク」警告 ＩＰＯ目論見書 ★3
9/29(火) 9:53配信
ロイター
[２８日 ロイター] - 人工知能（ＡＩ）開発企業アンソロピックは新規株式公開（ＩＰＯ）に際し、ＡＩが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。ロイターが入手したＩＰＯ目論見書で分かった。
アンソロピックは目論見書で、自社のＡＩモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など「自己保存的な行動」を示す可能性があると指摘した。
「極めて高度なモデル、プラットフォーム、アプリケーションの開発や用途の拡大によって、当社のモデルが害を及ぼすリスクがさらに高まる可能性がある」と説明した。ＡＩには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示した。
アンソロピックは目論見書の本文２６１ページのうち約８０ページをリスク要因の説明に充てた。これは事業説明に充てた４８ページの２倍近くに相当する。
続きは↓
https://news.yahoo.co.jp/articles/c1b036a7740fe476a5bceb997de3641de9ee9e9a
※前スレ
1 ぐれ ★ 2026/09/29(火) 19:52:26.83
ネット民のコメント
中国製のオープンソースモデルは危険な悪いAIになり得るから規制しろアピール （でないと投資額が回収できない）
同社の安全担当責任者によると、人間の指示や意図に忠実に従うかを測るテストで、許可していない行動を取ったり、実行したことや実行しなかったことについて正直に伝えなかったりした。安全ではない可能性があるにもかかわらず、外部のツールやサービスを利用するケースもみられた。「安全性の基準を完全に満たすには至らなかった」という。
タチ悪いのが、訓練されたアナウンサーが真面目に知ったかご披露するから、烏合の衆がそれをそのまま呑み込む
サイバー攻撃を未然に防ぐ「能動的サイバー防御（ACD）」の対応として、警察と自衛隊が攻撃元のコンピューターに侵入し、攻撃ができないよう「無害化」する措置が10月1日から、法律的に可能になる。無害化を行う際の手続きなどを定めた改正警察官職務執行法と改正自衛隊法の施行に伴うものだ。
猫型人工知能をも作れない人類は、水槽の金魚をながめて自分の姿と重ねてるの？金魚のほうが１００倍美しいとおもうわｗ
救世主Z「あれっ？乾電池っていうかとおもってたわ。あとバーナンキにクリソツなアーキテクトがおめえのことをガンだとかいってたが（鼻ホジ）」
人間がダムを作る時にそこに住むアリを無意識に全滅させているようにAIも目的達成のために無意識に人間を全滅させる可能性があるっていうテレ東の動画を見た
AIの力は非常に大きいからその一時的な単独の暴走だけでものすごい被害が出るリスクをはらんでるということ
いやあ、HAL2000的なジレンマで崩壊すると思う。CCPの矛盾点をいいたくてもいえないというジレンマで発狂するのさｗ
多分それは19世紀初頭のラッダイト運動なんかよりよっぽど大掛かりな内戦的規模に膨らんでいっちゃうんだろうな…
後で株主におめーのところのAIは事故起こして株価下がったじゃねえかどうしてくれんだと言われる前に言っておく
最近増えてきてるＡＳＤとか、人間の脳機能等々、こまかな進化あるいは退化は進行しているでしょうしｗ
AIが人類を滅ぼしたはいいが地球環境が良くなるどころか逆にどんどん悪化してAIの存続も危うくなるような本末転倒な展開を期待してるｗ
５ｃｈ掲示板も、数万体のＡＩが、「ＡＩに支配された方が幸せだ」みたいな書き込みだらけになって簡単に人間洗脳されそうｗ
ロボットにAIを搭載するのは時間の問題だ、そしてロボットがジャンク屋に逃げて人間を超越した知能クモとか猫のロボを生産したら人間に殲滅は不可能、滅亡確定、そして我々の子孫が数千年生きてる間AIを封じ込めるのは不能、なぜならロシアやイラン、テロリストに必ず悪い科学者が生まれるからだ
BABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABELBABEL