# マレーシアとインドネシアは、児童ポルノ生成の懸念によりGrokへのアクセスをブロックしました。マレーシアとインドネシアは、イーロン・マスクのチャットボットGrokへのアクセスを制限しました。これは、ツールを性的コンテンツの生成に使用することへの懸念からです。1月11日、マレーシアの規制当局は、「AIサービスに関連するリスクの除去においてX社の繰り返される失敗」を受けて、一時的な制限を命じました。その前日、インドネシアも同様の懸念によりチャットボットへのアクセスを停止し、企業の代表者を招いて議論を行いました。東南アジア諸国の厳しい対応は、Grokが未成年者を含むコンテンツを作成したり、ポルノ画像を生成したりできるとの報告を受けてのものです。Xは、問題を解決していると述べました。暫定措置として、画像の生成と編集機能は有料会員のみに限定して提供されています。マスク氏の会社は最近、チャットボットのGrok Imagineの機能をアップデートし、プロンプトを使った画像作成を簡素化しました。彼はまた、AIを違法に使用する者に対して責任を追及すると脅しています。> Grokを使って違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同じ結果を受けることになる> > — イーロン・マスク (@elonmusk) 2026年1月3日## これらの措置は不十分マレーシアとインドネシアの規制当局は、取られた措置に満足していません。マレーシア通信マルチメディア委員会は、「行動は、AIツールの設計と機能に関連するリスクを考慮していない」と述べました。> 「制限は、法的および規制手続きの間の予防措置および比例措置として導入されている。Grokへのアクセスは、女性や子供に関連するコンテンツの出現を防ぐための効果的な保護策が導入されるまで制限されたままである」と規制当局は述べました。マレーシアとインドネシアには、インターネット上でのポルノコンテンツの広範な拡散を禁止する厳しい法律があります。インドネシアの通信・デジタル技術大臣メイティア・ハフィドは、同意なしに作成された性的ディープフェイクを、人権、尊厳、安全保障に対する深刻な侵害とみなしています。彼女は、AIを使った偽のポルノの作成を「デジタル暴力」の一形態と分類しています。## 大規模な影響EU、イギリス、ブラジル、インドの規制当局は、Grokのディープフェイク拡散における役割を調査するよう求めています。イギリスのインターネット監視基金（Internet Watch Foundation）は、分析者が11歳から13歳の子供たちの「犯罪的な画像」を発見したと指摘しました。これらはGrokを使って作成されたと推定されています。ロンドンでは、最終手段として、技術大臣リズ・ケンダルが、プラットフォームが安全基準を守らない場合、Xのブロックを支持する決定を下すと明言しました。アメリカの議員も、問題が解決されるまでマーケットプレイスからアプリを削除するよう提案しています。各国の当局は、写真で人々の「裸」を見せるために使われるAIの規制について緊急措置を検討しています。## 初めてのスキャンダルではない以前からGrokは、フェイクや疑わしい情報の拡散について批判されてきました。12月、チャットボットはオーストラリアのボンドビーチでの銃乱射事件に関する誤った情報を提供しました。動画について質問された際、AIは次のように回答しました。> 「これは古いウイルス動画のようで、男性が駐車場のヤシの木に登っているシーンで、もしかすると剪定のためかもしれません。その結果、枝が壊れた車に落ちました。さまざまな情報源を調査しましたが、場所、日時、怪我の詳細は確認できませんでした。これは演技の可能性もあり、真実性は確認されていません」。7月には、ユーザーがAIがイーロン・マスクの意見を反映して回答を形成していることに気づきました。これには、イスラエルとパレスチナの紛争、妊娠中絶、移民法に関する話題も含まれます。これらの観察から、チャットボットは意図的にマスクの政治的見解を反映させるように設定されている可能性が示唆されます。以前、マスクは、今日使用されている「不適切なデータで訓練された基本モデルに多くのゴミが含まれている」ため、新しいGrokの学習のために「すべての人類の知識を書き換える」と述べました。その後、AIを基盤としたオンライン百科事典「Grokipedia」が登場し、「真実に焦点を当てている」としています。11月には、ユーザーがGrok 4.1の偏見に気づきました。新モデルはイーロン・マスクの能力を過大評価していると指摘されています。
マレーシアとインドネシアは、児童ポルノの生成のためにGrokをブロックしました - ForkLog: 暗号通貨、AI、シンギュラリティ、未来
マレーシアとインドネシアは、イーロン・マスクのチャットボットGrokへのアクセスを制限しました。これは、ツールを性的コンテンツの生成に使用することへの懸念からです。
1月11日、マレーシアの規制当局は、「AIサービスに関連するリスクの除去においてX社の繰り返される失敗」を受けて、一時的な制限を命じました。
その前日、インドネシアも同様の懸念によりチャットボットへのアクセスを停止し、企業の代表者を招いて議論を行いました。
東南アジア諸国の厳しい対応は、Grokが未成年者を含むコンテンツを作成したり、ポルノ画像を生成したりできるとの報告を受けてのものです。
Xは、問題を解決していると述べました。暫定措置として、画像の生成と編集機能は有料会員のみに限定して提供されています。
マスク氏の会社は最近、チャットボットのGrok Imagineの機能をアップデートし、プロンプトを使った画像作成を簡素化しました。彼はまた、AIを違法に使用する者に対して責任を追及すると脅しています。
これらの措置は不十分
マレーシアとインドネシアの規制当局は、取られた措置に満足していません。
マレーシア通信マルチメディア委員会は、「行動は、AIツールの設計と機能に関連するリスクを考慮していない」と述べました。
マレーシアとインドネシアには、インターネット上でのポルノコンテンツの広範な拡散を禁止する厳しい法律があります。
インドネシアの通信・デジタル技術大臣メイティア・ハフィドは、同意なしに作成された性的ディープフェイクを、人権、尊厳、安全保障に対する深刻な侵害とみなしています。
彼女は、AIを使った偽のポルノの作成を「デジタル暴力」の一形態と分類しています。
大規模な影響
EU、イギリス、ブラジル、インドの規制当局は、Grokのディープフェイク拡散における役割を調査するよう求めています。
イギリスのインターネット監視基金（Internet Watch Foundation）は、分析者が11歳から13歳の子供たちの「犯罪的な画像」を発見したと指摘しました。これらはGrokを使って作成されたと推定されています。
ロンドンでは、最終手段として、技術大臣リズ・ケンダルが、プラットフォームが安全基準を守らない場合、Xのブロックを支持する決定を下すと明言しました。アメリカの議員も、問題が解決されるまでマーケットプレイスからアプリを削除するよう提案しています。
各国の当局は、写真で人々の「裸」を見せるために使われるAIの規制について緊急措置を検討しています。
初めてのスキャンダルではない
以前からGrokは、フェイクや疑わしい情報の拡散について批判されてきました。
12月、チャットボットはオーストラリアのボンドビーチでの銃乱射事件に関する誤った情報を提供しました。動画について質問された際、AIは次のように回答しました。
7月には、ユーザーがAIがイーロン・マスクの意見を反映して回答を形成していることに気づきました。これには、イスラエルとパレスチナの紛争、妊娠中絶、移民法に関する話題も含まれます。
これらの観察から、チャットボットは意図的にマスクの政治的見解を反映させるように設定されている可能性が示唆されます。
以前、マスクは、今日使用されている「不適切なデータで訓練された基本モデルに多くのゴミが含まれている」ため、新しいGrokの学習のために「すべての人類の知識を書き換える」と述べました。
その後、AIを基盤としたオンライン百科事典「Grokipedia」が登場し、「真実に焦点を当てている」としています。
11月には、ユーザーがGrok 4.1の偏見に気づきました。新モデルはイーロン・マスクの能力を過大評価していると指摘されています。