フランス警察、Grok AIと違法コンテンツに関する捜査の一環として、Xのパリオフィスを強制捜査 === END ===

要約

• フランスの捜査官は、違法コンテンツとアルゴリズムの慣行に関する捜査の一環として、Xのパリオフィスを捜索しました。
• 児童を含む非合意性的な性的画像の生成にGrokが使用されたとの苦情により、事件は拡大しました。
• 英国の規制当局は、データ保護およびオンライン安全法の下で並行調査を開始しました。

フランス当局は火曜日、ソーシャルメディアプラットフォームXのパリオフィスを捜索し、同プラットフォームのAIチャットボットGrokに関連する児童ポルノの疑いを含む犯罪捜査の一環として捜索を行いました。 _スカイニュース_の報告によると、捜索はフランスの専門的サイバー犯罪部隊がユーロポールと連携して実施したとのことです。 検察官は、Xの所有者イーロン・マスクが事情聴取のため召喚され、現役および元役員の中には元最高経営責任者のリンダ・ヤッカリーノも含まれると述べました。 「この調査は、違法コンテンツの拡散やその他のオンライン犯罪活動を含む、プラットフォームの運用と使用に関連する一連の疑わしい犯罪行為に関係しています」とユーロポールは声明で述べました。「ユーロポールは、調査が進行するにつれてフランス当局を引き続き支援する準備ができています。」

 先月開始されたGrokに対する捜査は、Xが児童性的虐待資料やその他の違法コンテンツの流通に関与しているとされ、Grokが2万3000以上の性的な画像を生成するために使用されたと当局は主張しています。 昨年8月、xAIはNSFWコンテンツを生成するための「Spicy Mode」を開始し、テイラー・スウィフトのディープフェイクを含む高プロファイルなケースもありました。 ソーシャルメディア大手のグローバル・ガバメント・アフェアーズ部門は、Xの投稿で、違法行為の疑いに関する捜査を「アルゴリズムの操作や虚偽のデータ抽出の疑いに関する政治的な刑事捜査」と呼び、何らの不正も否定しました。

「今日の捜索は、この調査がフランスの法律を歪め、適正手続きを回避し、表現の自由を危険にさらすという私たちの確信を強化するものです」と彼らは書いています。「Xは、その基本的権利とユーザーの権利を守ることにコミットしています。私たちは、フランスの司法当局の行動に恐れることはありません。」 消費者擁護団体は、規制当局が違法コンテンツの作成に使用されるAI開発者を調査する際には、そのツールの誤用が合理的に予測できたかどうかを検討すべきだと主張しています。 「規制当局は、企業の設計選択が違法な誤用を予見可能にしたかどうか、リスク評価が十分だったかどうか、そして安全策が実質的にテストされたかどうかを検討すべきです」と、Public Citizenのビッグテック責任追及活動家J.B.ブランチは_decrypt_に語りました。「迅速な展開から利益を得るプラットフォームは、その展開による被害に責任を負うべきです。これは他の業界でも同じことです。」 現在の違法な非合意性的な性的画像や児童性的虐待資料に対する法律は依然として重要ですが、ブランチは、「大量に害を生み出すことができるAIには適した法律が作られていない」と述べました。 「私たちは、AIを用いた虐待を未然に防ぐための明確で積極的な義務、そしてAI製品が市場に出る前に問題をストレステストできる独立した規制当局のテストを含む、より明確な規制が必要です」と彼は言います。「これほど深刻な事態が起きた場合、ツールは直ちに削除されるべきです。」 捜査は拡大中 チャットボットに対する調査は、英国、EU、インド、オーストラリア、米国など複数の法域に拡大しています。 フランス当局がXのパリオフィスを捜索した同じ日に、英国の情報委員会事務局（ICO）もGrokに対する調査を開始したと発表しました。 「Grokが個人の非合意的な性的画像を生成するために使用されたとの報告を受けて、この措置を取った」と、ICOの規制リスク＆イノベーション担当エグゼクティブディレクターのウィリアム・マルコムは声明で述べました。「そのようなコンテンツの作成と流通は、英国のデータ保護法の下で深刻な懸念を引き起こし、一般市民に対して重大な潜在的危害のリスクをもたらします。」

マルコムによると、これらの懸念は、個人データが合法的、公正かつ透明に処理されているかどうか、そして有害な操作画像の生成を防ぐためにGrokの設計と展開に適切な安全策が組み込まれているかどうかに関係しています。 「これらの安全策が失敗した場合、個人は自分の個人データのコントロールを失い、深刻な危害にさらされることになります」と彼は書いています。「これらのリスクを検討することは、ICOの人権保護とAI技術の設計・展開において責任を追及する役割の中心です。」 ヨーロッパでの動きは、XとGrokを標的とした最新のものであり、先月、英国のメディア規制当局Ofcomは、Xがオンライン安全法の義務に違反しているかどうかの調査を開始しました。 1月には、Grokに対する国際的な反発を受けて、xAIはチャットボットの画像編集機能を制限し、人の画像生成に関する特定のプロンプトをブロックしました。 パリの捜索は、マスクがSpaceXがxAIを買収したと発表した翌日であり、これによりソーシャルメディアプラットフォームとそのAIシステムはSpaceXの企業体制の下に置かれ、規制の監視が強まっています。 "我々は、XやGrokが現在、「Spicy Mode」を提供しており、一部の出力に子供のような画像を含む露骨な性的コンテンツを示していることを認識しています」とEU委員会のトーマス・レニエ報道官は最近のブリュッセルでの記者会見で述べました。「これはスパイシーではありません。違法です。衝撃的です。気持ちが悪いです。ヨーロッパには居場所がありません。」 SpaceXとxAIは、_decrypt_からのコメント要請には直ちに応じませんでした。