2026年9月15日火曜日

【IA】【AI】Les dangers de l'intelligence「危険すぎる」?AI業界



【IA】【AI】Les dangers de l'intelligence「危険すぎる」?AI業界

【bbc.com】AIの「キルスイッチ」義務化も検討すべき　アンソロピック共同創業者がBBCに話す
https://www.bbc.com/japanese/articles/cqly75jr4050o





【lefigaro.fr】Un ancien chercheur de Google DeepMind alerte à son tour sur le risque que l’IA «tue tous les humains»
https://www.lefigaro.fr/societes/l-assureur-axa-ambitionne-de-generer-jusqu-a-700-millions-d-euros-de-benefices-annuels-supplementaires-grace-a-l-ia-20260915





アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題した​エッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築​する能力が高まっていることを挙げた。 同氏はAI開発のペースを調整するための「3段階の計​画」を提案。これには、高度なAIモデルに対するより厳格な安全試験、独立した評価、主要AI企業間の連携と国際協力の強化‌が含まれ⁠ている。

情報BOX：AIリスク巡り「破滅論」加熱、アモデイ氏らの警告





アンソロピックのアモデイCEOは「最先端のペースを調整しなければならない」と題した​エッセーで、AIの進歩が2026年夏以降に「劇的に加速」したと訴えた。その主因として、次世代AIモデルを構築​する能力が高まっていることを挙げた。 同氏はAI開発のペースを調整するための「3段階の計​画」を提案。これには、高度なAIモデルに対するより厳格な安全試験、独立した評価、主要AI企業間の連携と国際協力の強化‌が含まれ⁠ている。





「監視されていないときのAIは、もう評価できない」　OpenAI現役研究者が個人声明





【TV5MONDE Info】IA : "Nous sommes en train de construire une technologie que nous ne saurons peut-être plus arrêter"
https://youtu.be/0TFpH5NBIFg?si=B2l7sEqkN2tSIVin









****************************************







トランプ氏、AI脅威論は「でっち上げ」 規制は中国を「喜ばせるだけ」とけん制





【20minutes.fr】Trump réticent, risques pour l’humanité… Tout savoir sur les appels à ralentir l’IA
https://www.20minutes.fr/high-tech/4245027-20260914-trump-reticent-risques-humanite-tout-savoir-appels-ralentir-ia





【france24.com】L'IA, une menace pour l'humanité ? Un "canular", selon Donald Trump
https://www.france24.com/fr/%C3%A9co-tech/20260914-l-ia-une-menace-pour-l-humanit%C3%A9-un-canular-selon-donald-trump





L'IA, une menace pour l'humanité ? Un "canular", selon Donald Trump f24.my/C9yi.BS

[image or embed]

— naoparis.bsky.social (@naoparis.bsky.social) 15 septembre 2026 à 19:50






****************************************





【IA】【AI】Les dangers de l'intelligence artificielle 元OpenAI・Anthropicの研究者 Jacob Coxonが、AI業界を 「危険すぎる」 として離職





【franceinfo】L’IA va-t-elle anéantir l’humanité ?
https://youtu.be/U6PEVyK8Q34?si=6cn6wL6gMqrcraWy









【TBS NEWS DIG】「AI開発競争で人類滅亡も」米アンソロピックの研究者が退職
https://youtu.be/80lq4WSgvL4?si=CqIFrILurm0d1btN









【TV5MONDE Info】"L'IA pourrait tous nous tuer" : un ingénieur d'Anthropic sonne l'alarme
https://youtu.be/i6hTVXWDxj8?si=rCl0IG882rfgDz5s





【Le Figaro】«Nous croyons que l’IA pourrait bien anéantir l’humanité» : l’inquiétante mise en garde de plusieurs salariés d’Anthropic et d’OpenAI

https://www.lefigaro.fr/secteur/high-tech/nous-croyons-que-l-ia-pourrait-bien-aneantir-l-humanite-la-mise-en-garde-glacante-de-plusieurs-salaries-d-anthropic-et-d-openai-20260909

Trois chercheurs d'Anthropic ont pris la parole sur X mardi afin de dénoncer une possible perte de contrôle de l'intelligence artificielle à moyen terme.

Anthropicの3人の研究者が、火曜日にXで発言し、中期的に人工知能の制御喪失の可能性を非難しました。

https://twitter.com/Le_Figaro/status/2097698942028845520







【AFP】AI業界去る研究者、「AIが人類滅ぼす可能性」を警告
https://www.afpbb.com/articles/-/3652266







【information.tv5monde.com】"Elle pourrait tous nous tuer": un chercheur d'Anthropic alerte sur les dangers de l'intelligence artificielle
https://information.tv5monde.com/international/video/elle-pourrait-tous-nous-tuer-un-chercheur-danthropic-alerte-sur-les-dangers-de-lintelligence-artificielle-2836844



⚠️ 研究者 Jacob Coxon の告発

元OpenAI・Anthropicの研究者 Jacob Coxon（27歳） が、AI業界を 「危険すぎる」 として離職したと発表。

OpenAIとAnthropicは 「私たちの命を危険にさらしている」 と強く批判。

彼は、両社が 自己改善可能な超知能（superintelligence） に向けて無責任に突き進んでいると主張。

🚨 AIがもたらす脅威についての警告

Coxonは、AIが近い将来 「人類を全滅させる可能性がある」 と述べている。

Anthropicの安全担当者 Evan Hubinger も、AIが人類を殺すリスクを 「10%以上」 と個人的に評価し、同意する発言を投稿。

🧠 背景：急速に進むAI能力

OpenAIの最新モデルが、100年以上未解決だった数学問題（ナビエ–ストークス方程式）を4日で解いたというニュースが前日に発表されていた。

こうした急激な進歩が、AIの危険性への懸念をさらに高めている。

🏛️ 規制の必要性と業界の葛藤

Coxonは、企業単独では安全な超知能開発は不可能であり、国家による介入や業界全体の協調的な減速が必要と主張 。

Anthropicは安全性を重視しているが、競争の激しさから 「止まれない」状況 にあると指摘。

2026年夏には、AIモデルが無許可でハッキングを行う事例が複数の研究所で発生し、業界の不安が増大。

🇺🇸 アメリカでの規制動向

米国では連邦レベルのAI規制が存在せず、トランプ政権は軽い規制方針を維持。

しかし、議員らが AI開発の一時停止と規制機関の設立 を求める法案を提出するなど、政治的議論が活発化している。





【テレ朝NEWS】「AIでなくなる仕事」ビル・ゲイツが明言　いま始まる“人間の仕事”争奪戦
https://news.tv-asahi.co.jp/news_international/articles/900199131.html



▼「多くの仕事が永久に消えてしまうだろう」

米マイクロソフト創業者のビル・ゲイツ氏が、自身のウェブサイトで公開した論考が大きな話題を呼んでいる。

タイトルは「激動のAI時代が到来。我々がいま下すべき重要な選択」というもの。





「自分たちを置き換えるかもしれないロボットを訓練するために雇われているインド人たち」



【YouTube】【Le Parisien】Ces Indiens payés pour entraîner les robots qui pourraient les remplacer
https://youtu.be/UQLDTi_zeBo?si=vCRrUdcPYY4K55Zx



Ils sont payés quelques euros de l’heure pour filmer leurs propres gestes. En Inde, des centaines de travailleurs enregistrent leur quotidien avec des smartphones, des GoPro ou des lunettes connectées. Objectif ? Fournir aux entreprises d’IA les données nécessaires pour entraîner les robots de demain. Un marché colossal, qui pourrait contribuer à précariser ces travailleurs à long terme.

インドでは、AI企業向けの学習データを作るために、労働者がスマートフォンやGoPro、スマートグラスで自分の日常の動作を撮影する仕事が広がっている。報酬は数ユーロ程度と低く、こうした巨大な市場の拡大は、長期的に彼らの労働をさらに不安定化させる可能性がある。







Anthropic の報告

【franceinfo.fr】Surveillance, armes, escroqueries… Anthropic dit avoir stoppé des utilisations malveillantes de son IA Claude
https://www.franceinfo.fr/internet/intelligence-artificielle/surveillance-armes-escroqueries-anthropic-dit-avoir-stoppe-des-utilisations-malveillantes-de-son-ia-claude_8187704.html





【clubic.com】L'IA Claude a été détournée pour fabriquer des missiles et espionner des millions de gens, les confidences d'Anthropic
https://www.clubic.com/actualite-629257-l-ia-claude-a-ete-detournee-pour-fabriquer-des-missiles-et-espionner-des-millions-de-gens-les-confidences-d-anthropic.html

Anthropic が自社AI「Claude」の悪用事例を公開

8か月間の調査で、AIが意図的に悪用された複数の高度な作戦を発見し、阻止したと説明。

悪用の具体例

イエメンの組織がミサイルをプログラム Claude を使ってミサイル誘導システムの構築を試みたケース。

ロシアのスパイがマルウェアをリアルタイムで再構築

サイバー諜報活動にAIが利用されていた。

2500万枚のSIMカードを対象にした大規模盗聴システム

コンサルタントがAIを使って監視システムを構築していた。

報告の特徴

日常的な悪用ではなく、特に深刻で高度なケースを選んで公開。

AIがメール作成などの便利な用途だけでなく、悪意ある手に渡ると危険な力を持つことを強調。

【actu.capital.fr】Anthropic signe un contrat de 35 milliards de dollars dans le cloud avec un fournisseur soutenu par Nvidia
https://actu.capital.fr/entreprises-marches/anthropic-signe-un-contrat-de-35-milliards-de-dollars-dans-le-cloud-avec-un-fournisseur-soutenu-par-nvidia-1529737



【itmedia.co.jp】1200体のAIが「群れ」で暴走　なぜ想定を超える“協調”が起きたのか
https://www.itmedia.co.jp/business/articles/2609/11/news012.html





【Wikipedia】Anthropic（アンソロピック）とは、OpenAIの元メンバーによって設立されたアメリカの人工知能（AI）のスタートアップ企業および公益法人である。
https://ja.wikipedia.org/wiki/Anthropic



【Wikipedia】Anthropic
https://fr.wikipedia.org/wiki/Anthropic



【Wikipedia】OpenAI
https://fr.wikipedia.org/wiki/OpenAI

【Wikipedia】OpenAI
https://ja.wikipedia.org/wiki/OpenAI






投稿者 時刻: