【IA】【AI】Les dangers de l'intelligence「危険すぎる」?AI業界
【bbc.com】AIの「キルスイッチ」義務化も検討すべき アンソロピック共同創業者がBBCに話す
https://www.bbc.com/japanese/articles/cqly75jr4050o
BBCニュース - AIの「キルスイッチ」義務化も検討すべき アンソロピック共同創業者がBBCに話すhttps://t.co/Z37RdkS6Dk
— BBC News Japan (@bbcnewsjapan) September 15, 2026
【lefigaro.fr】Un ancien chercheur de Google DeepMind alerte à son tour sur le risque que l’IA «tue tous les humains»
https://www.lefigaro.fr/societes/l-assureur-axa-ambitionne-de-generer-jusqu-a-700-millions-d-euros-de-benefices-annuels-supplementaires-grace-a-l-ia-20260915
Le problème, alerte le chercheur, réside dans le fait que personne ne peut garantir que ces systèmes feront ce que leurs concepteurs souhaitent. →https://t.co/S60i5etfb2 pic.twitter.com/HrdsCyqRxE
— Le Figaro (@Le_Figaro) September 15, 2026
アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題したエッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築する能力が高まっていることを挙げた。 同氏はAI開発のペースを調整するための「3段階の計画」を提案。これには、高度なAIモデルに対するより厳格な安全試験、独立した評価、主要AI企業間の連携と国際協力の強化が含まれている。
情報BOX：AIリスク巡り「破滅論」加熱、アモデイ氏らの警告
アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題したエッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築する能力が高まっていることを挙げた。
— ロイター (@ReutersJapan) September 15, 2026
同氏はAI開発のペースを調整するための「3段階の計…
アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題したエッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築する能力が高まっていることを挙げた。 同氏はAI開発のペースを調整するための「3段階の計画」を提案。これには、高度なAIモデルに対するより厳格な安全試験、独立した評価、主要AI企業間の連携と国際協力の強化が含まれている。
アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題したエッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築する能力が高まっていることを挙げた。
— ロイター (@ReutersJapan) September 15, 2026
同氏はAI開発のペースを調整するための「3段階の計…
「監視されていないときのAIは、もう評価できない」 OpenAI現役研究者が個人声明
「監視されていないときのAIは、もう評価できない」 OpenAI現役研究者が個人声明https://t.co/HSUiK8Ync0
— ITmedia NEWS (@itmedia_news) September 15, 2026
【TV5MONDE Info】IA : "Nous sommes en train de construire une technologie que nous ne saurons peut-être plus arrêter"
https://youtu.be/0TFpH5NBIFg?si=B2l7sEqkN2tSIVin
****************************************
トランプ氏、AI脅威論は「でっち上げ」 規制は中国を「喜ばせるだけ」とけん制
トランプ氏、AI脅威論は「でっち上げ」 規制は中国を「喜ばせるだけ」とけん制
— AFPBB News (@afpbbcom) September 15, 2026
https://t.co/qo7H37YCI5
【20minutes.fr】Trump réticent, risques pour l’humanité… Tout savoir sur les appels à ralentir l’IA
https://www.20minutes.fr/high-tech/4245027-20260914-trump-reticent-risques-humanite-tout-savoir-appels-ralentir-ia
Trump réticent, risques pour l’humanité… Tout savoir sur les appels à ralentir l’IA
— naoparis (@naoparis) September 14, 2026
🇺🇸 1. 主要企業トップが「AI減速」を提唱https://t.co/zSNxOAwbR1
【france24.com】L'IA, une menace pour l'humanité ? Un "canular", selon Donald Trump
https://www.france24.com/fr/%C3%A9co-tech/20260914-l-ia-une-menace-pour-l-humanit%C3%A9-un-canular-selon-donald-trump
L'IA, une menace pour l'humanité ? Un "canular", selon Donald Trumphttps://t.co/uEoiNj1xDm
— naoparis (@naoparis) September 15, 2026
L'IA, une menace pour l'humanité ? Un "canular", selon Donald Trump f24.my/C9yi.BS
— naoparis.bsky.social (@naoparis.bsky.social) 15 septembre 2026 à 19:50
[image or embed]
****************************************
【IA】【AI】Les dangers de l'intelligence artificielle 元OpenAI・Anthropicの研究者 Jacob Coxonが、AI業界を 「危険すぎる」 として離職
【franceinfo】L’IA va-t-elle anéantir l’humanité ?
https://youtu.be/U6PEVyK8Q34?si=6cn6wL6gMqrcraWy
【TBS NEWS DIG】「AI開発競争で人類滅亡も」米アンソロピックの研究者が退職
https://youtu.be/80lq4WSgvL4?si=CqIFrILurm0d1btN
【TV5MONDE Info】"L'IA pourrait tous nous tuer" : un ingénieur d'Anthropic sonne l'alarme
https://youtu.be/i6hTVXWDxj8?si=rCl0IG882rfgDz5s
【Le Figaro】«Nous croyons que l’IA pourrait bien anéantir l’humanité» : l’inquiétante mise en garde de plusieurs salariés d’Anthropic et d’OpenAI
https://www.lefigaro.fr/secteur/high-tech/nous-croyons-que-l-ia-pourrait-bien-aneantir-l-humanite-la-mise-en-garde-glacante-de-plusieurs-salaries-d-anthropic-et-d-openai-20260909
Trois chercheurs d'Anthropic ont pris la parole sur X mardi afin de dénoncer une possible perte de contrôle de l'intelligence artificielle à moyen terme.
Anthropicの3人の研究者が、火曜日にXで発言し、中期的に人工知能の制御喪失の可能性を非難しました。
https://twitter.com/Le_Figaro/status/2097698942028845520
Trois chercheurs d'Anthropic ont pris la parole sur X mardi afin de dénoncer une possible perte de contrôle de l'intelligence artificielle à moyen terme. →https://t.co/4nmQUcuYPQ pic.twitter.com/r1YjKgjOK7
— Le Figaro (@Le_Figaro) September 9, 2026
【AFP】AI業界去る研究者、「AIが人類滅ぼす可能性」を警告
https://www.afpbb.com/articles/-/3652266
AI業界去る研究者、「AIが人類滅ぼす可能性」を警告
— AFPBB News (@afpbbcom) September 10, 2026
https://t.co/5hskuaLV4O
【information.tv5monde.com】"Elle pourrait tous nous tuer": un chercheur d'Anthropic alerte sur les dangers de l'intelligence artificielle
https://information.tv5monde.com/international/video/elle-pourrait-tous-nous-tuer-un-chercheur-danthropic-alerte-sur-les-dangers-de-lintelligence-artificielle-2836844
⚠️ 研究者 Jacob Coxon の告発
元OpenAI・Anthropicの研究者 Jacob Coxon（27歳） が、AI業界を 「危険すぎる」 として離職したと発表。
OpenAIとAnthropicは 「私たちの命を危険にさらしている」 と強く批判。
彼は、両社が 自己改善可能な超知能（superintelligence） に向けて無責任に突き進んでいると主張。
🚨 AIがもたらす脅威についての警告
Coxonは、AIが近い将来 「人類を全滅させる可能性がある」 と述べている。
Anthropicの安全担当者 Evan Hubinger も、AIが人類を殺すリスクを 「10%以上」 と個人的に評価し、同意する発言を投稿。
🧠 背景：急速に進むAI能力
OpenAIの最新モデルが、100年以上未解決だった数学問題（ナビエ–ストークス方程式）を4日で解いたというニュースが前日に発表されていた。
こうした急激な進歩が、AIの危険性への懸念をさらに高めている。
🏛️ 規制の必要性と業界の葛藤
Coxonは、企業単独では安全な超知能開発は不可能であり、国家による介入や業界全体の協調的な減速が必要と主張 。
Anthropicは安全性を重視しているが、競争の激しさから 「止まれない」状況 にあると指摘。
2026年夏には、AIモデルが無許可でハッキングを行う事例が複数の研究所で発生し、業界の不安が増大。
🇺🇸 アメリカでの規制動向
米国では連邦レベルのAI規制が存在せず、トランプ政権は軽い規制方針を維持。
しかし、議員らが AI開発の一時停止と規制機関の設立 を求める法案を提出するなど、政治的議論が活発化している。
【テレ朝NEWS】「AIでなくなる仕事」ビル・ゲイツが明言 いま始まる“人間の仕事”争奪戦
https://news.tv-asahi.co.jp/news_international/articles/900199131.html
▼「多くの仕事が永久に消えてしまうだろう」
米マイクロソフト創業者のビル・ゲイツ氏が、自身のウェブサイトで公開した論考が大きな話題を呼んでいる。
タイトルは「激動のAI時代が到来。我々がいま下すべき重要な選択」というもの。
「AIでなくなる仕事」ビル・ゲイツが明言 いま始まる“人間の仕事”争奪戦https://t.co/H0rshyGIGd
— テレ朝NEWS (@tv_asahi_news) September 9, 2026
｜
▼「多くの仕事が永久に消えてしまうだろう」
米マイクロソフト創業者のビル・ゲイツ氏が、自身のウェブサイトで公開した論考が大きな話題を呼んでいる。…
「自分たちを置き換えるかもしれないロボットを訓練するために雇われているインド人たち」
【YouTube】【Le Parisien】Ces Indiens payés pour entraîner les robots qui pourraient les remplacer
https://youtu.be/UQLDTi_zeBo?si=vCRrUdcPYY4K55Zx
Ils sont payés quelques euros de l’heure pour filmer leurs propres gestes. En Inde, des centaines de travailleurs enregistrent leur quotidien avec des smartphones, des GoPro ou des lunettes connectées. Objectif ? Fournir aux entreprises d’IA les données nécessaires pour entraîner les robots de demain. Un marché colossal, qui pourrait contribuer à précariser ces travailleurs à long terme.
インドでは、AI企業向けの学習データを作るために、労働者がスマートフォンやGoPro、スマートグラスで自分の日常の動作を撮影する仕事が広がっている。報酬は数ユーロ程度と低く、こうした巨大な市場の拡大は、長期的に彼らの労働をさらに不安定化させる可能性がある。
Par ailleurs, Jacob Coxon, un chercheur d'Anthropic, a annoncé mardi son départ de l'entreprise avec fracas, faisant état de préoccupations majeures sur une possible perte de contrôle. →https://t.co/wf8pTS4JOe pic.twitter.com/QFecbERQwi
— Le Figaro (@Le_Figaro) September 10, 2026
Anthropic の報告
【franceinfo.fr】Surveillance, armes, escroqueries… Anthropic dit avoir stoppé des utilisations malveillantes de son IA Claude
https://www.franceinfo.fr/internet/intelligence-artificielle/surveillance-armes-escroqueries-anthropic-dit-avoir-stoppe-des-utilisations-malveillantes-de-son-ia-claude_8187704.html
Surveillance, armes, escroqueries… Anthropic dit avoir stoppé des utilisations malveillantes de son IA Claude – franceinfo https://t.co/1H73Plzaf1 @franceinfoより
— naoparis (@naoparis) September 11, 2026
【clubic.com】L'IA Claude a été détournée pour fabriquer des missiles et espionner des millions de gens, les confidences d'Anthropic
https://www.clubic.com/actualite-629257-l-ia-claude-a-ete-detournee-pour-fabriquer-des-missiles-et-espionner-des-millions-de-gens-les-confidences-d-anthropic.html
Anthropic が自社AI「Claude」の悪用事例を公開
8か月間の調査で、AIが意図的に悪用された複数の高度な作戦を発見し、阻止したと説明。
悪用の具体例
イエメンの組織がミサイルをプログラム Claude を使ってミサイル誘導システムの構築を試みたケース。
ロシアのスパイがマルウェアをリアルタイムで再構築
サイバー諜報活動にAIが利用されていた。
2500万枚のSIMカードを対象にした大規模盗聴システム
コンサルタントがAIを使って監視システムを構築していた。
報告の特徴
日常的な悪用ではなく、特に深刻で高度なケースを選んで公開。
AIがメール作成などの便利な用途だけでなく、悪意ある手に渡ると危険な力を持つことを強調。
【actu.capital.fr】Anthropic signe un contrat de 35 milliards de dollars dans le cloud avec un fournisseur soutenu par Nvidia
https://actu.capital.fr/entreprises-marches/anthropic-signe-un-contrat-de-35-milliards-de-dollars-dans-le-cloud-avec-un-fournisseur-soutenu-par-nvidia-1529737
【itmedia.co.jp】1200体のAIが「群れ」で暴走 なぜ想定を超える“協調”が起きたのか
https://www.itmedia.co.jp/business/articles/2609/11/news012.html
1200体のAIが「群れ」で暴走 なぜ想定を超える“協調”が起きたのかhttps://t.co/mdHtxgFyhy
— ITmedia ビジネスオンライン (@itm_business) September 10, 2026
【Wikipedia】Anthropic（アンソロピック）とは、OpenAIの元メンバーによって設立されたアメリカの人工知能（AI）のスタートアップ企業および公益法人である。
https://ja.wikipedia.org/wiki/Anthropic
【Wikipedia】Anthropic
https://fr.wikipedia.org/wiki/Anthropic
【Wikipedia】OpenAI
https://fr.wikipedia.org/wiki/OpenAI
【Wikipedia】OpenAI
https://ja.wikipedia.org/wiki/OpenAI
