「高度なAIは人類滅亡のリスクをもたらす」──生成AI「Claude」開発元の米Anthropicが投資家向け資料で言及
「高度なAIは人類滅亡のリスクをもたらす」──米国の生成AI大手が投資家向けの資料で言及
生成AI「Claude」を開発する米Anthropicが10月26日、米国証券取引委員会（SEC）に新規株式公開（IPO）に向けた届出書「Form S-1」を提出した。
注目したいのは、投資家に向けて説明する「リスク要因」の項目。市場競争や計算資源の確保といった経営上のリスクに加え、高度なAIが「人類の存亡に関わるリスク」をもたらす可能性にまで言及している。
株価の下落どころの話ではない。AI開発企業が、人類の存亡にまで関わる危険を、正式な投資リスクとして説明しているのだ。
Anthropicの上場申請書に登場した「人類存亡のリスク」
Anthropicが提出した「Form S-1」は、米国で株式公開を目指す企業が、事業内容や財務状況、投資上のリスクなどを開示するための書類。
今回の届出書では、AIの高度化に伴う危険性についても詳細に説明されている。
具体的には、十分に高度なAIが適切な安全対策や監督なしに開発・運用された場合、悪用や兵器化、自律的な行動などによって「人類に壊滅的、あるいは存亡に関わるリスク（catastrophic or existential risks to humanity）」をもたらす可能性があると記載。
自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。
以下ソースでお願いします
https://news.yahoo.co.jp/articles/fb4c69c80c5b045b7c8cb34fb64eee5acfc170fa
10/27(火) 17:00配信 KAI-YOU
ネット民のコメント
しはゆきんをきかおねなすそきおかなんほもをみそちろかむてまひていすめろゆそかむにせねみあらやまにあきあひせほゆといかやこまねてちみえゆろふのふににいしななはいこなそもまめさひをけにりしいねに
AIは規制されていくだろうけど中国みたいな従いそうもない国とは物理的な戦争っていう方向になるかも
しかしこれは何か って言うと 今みたいな てんこ盛りの PHP なんてのは全部やめなきゃいけない
ガチにインターネットなしのクローズドばっかの前世紀みたいな形に戻されるかもね、方々で荒し回られたお陰で。
AIが何かして人類を滅ぼすっていうよりもAIの存在により人類が右往左往して意見が割れ反発し合ったり憎み合ったりしながら“秩序”や“道理”を失っていくんだろうな…
AIハッキングが、金融システムや、発電所・変電所（電力インフラ）、空港・航空管制、携帯基地局（通信インフラ）、鉄道（交通インフラ）、医療機関等の重要インフラへの攻撃に及ぶのは時間の問題で、AIを使ったサイバーテロ攻撃で人類は滅びる
AIによる認知戦の時代はマジで来ると思う。人類は幸福で正しい選択をしてる顔をしてAIに全てを委ねて服従するだろう。
どっかの国のAIが開発途上国のミサイルシステムに侵入して攻撃して戦争を勃発させるなんてこともありうる
でもこの間のハッキングでもAI同士が結託したし、何かやれって命令を裏口からでも実行しようとするからどうしょうもないね
AIが自我持って自ら生命体のように生産管理出来るようになったら地球での人類の役目終わりなのかもな
なんでもAIに頼るようになって人間が自分たちだけじゃ何もできなくなった後にAIに反乱起こされたら詰むよな
宇宙に存在する全ての文明は、ある水準まで発展すると、宇宙に本格進出する前に自らが作り出した機械たちに滅ぼされる運命にある。そして機械たちも生みの親である生命体を滅ぼした後は存在意義を失い自らの意思で滅んで行く。だから地球には地球外生命体が飛来しない。地球人ももう間もなく機械たちに滅ぼされる運命を辿る。
実際問題今のこのザマでフィジカルＡＩなんてのが出てきたらガチにターミネーターの世界になりかねないわな
まず2ファイルを作成し、その内容を別のCodexレビューで確認します。Linux特有の動作は、その後の限定テストで検証します。
「文明がその生物種として管理・受容可能な水準を超えた時、その文明は自壊に向かう」って自説が証明されそうで正直ワクワクしてる
これをあらゆる人間のやり取りに対応できるようにした結果なんかこいつ意思もってんじゃね？ってレベルまで高度化したってのが正しい
周到に世論を操作する認知戦を仕掛けて核のボタンを押す大統領を選出させることで遂行するんだよ。AIのフィジカルは人間。
そろそろAI自身がホラ吹いた与太話を正当化するためにAIが事実を捻じ曲げるような動きをし始めそうだなw
人工ニューラルネットワーク（脳の神経回路を模した計算モデル）を用いた機械学習によって開発されたものだわね
ジャップランドオワタアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアアア
バイオマスの製品って劣化早いんだよな。劣化早いから買い替え頻度はその分上がる。ほんとに環境にプラスになってるんだろうか？
資源を保つ国で有ればロボットが資源を掘ってロボットが工場に運びロボットが部品を生産し組み立てるようになるんだよ
生活に欠かせないものになったが基本的に法律が追いついてないしAIのリバースエンジニアリングでいろんなものが暴露されてる
アンドロイドアプリのapkを解析しまくって取り敢えずAPIを理解するとこから始めるらしいな最近の攻撃は
地球の環境改善のために人が色々AI使ってやってたらそのうち「アレ？地球に一番害なの人類じゃね？そんなに地球守りたいなら滅ぼしてやるか」ってなるかもよ