AIをどう規制するか？専門家は法的保証と基準制度の改善を提案

著者:徐慈豪

出典: Financial AP通信

‌画像ソース: Unbounded AI ツールによって生成

OpenAI によって引き起こされた AI の隆盛は続いていますが、AIGC 関連のアプリケーションは生産効率を向上させる一方で、犯罪者によって虚偽のコンテンツを生成し、社会の正常な運営を混乱させるために使用されています。

国泉証券調査報告書は、国内のAIアプリケーションは徐々に拡大しており、AI関連アプリケーションは徐々に増加すると指摘した。 AI 悪用のリスクを考慮すると、データ セキュリティ、暗号化、AI 監視はすべて重要な技術開発の方向性です。

数日前、 Meiya Pico は、AI によって生成されたビデオ、画像、テキストを検出して認識できる新製品をリリースしました。実際、我が国の関連部門は、AIGC 製品およびアプリケーションの法的監督を検討しています。関連する専門家らはまた、関連する法制度を確立し改善することによってのみ、我が国のAIGC産業の健全で持続可能な発展を根本的に促進できると示唆した。

Meiya Pico が AI 規制製品をリリース

Meiya Picoは5月15日、IR活動の記録シートを発表した。

記録シートには、AI監視製品に関して、同社がAI-3300「Huiyan」ビデオ画像認証ワークステーションをリリースしたことが示されている。このワークステーションは、深く合成され偽造されたビデオ画像とAIGCで生成されたビデオ画像を監視および識別できる。同社が立ち上げた AIGC 検出プラットフォームは、AIGC で生成されたテキストの検出と認識をサポートします。

同時にメイヤ・ピコ氏は、後続企業が反生成AIを含むAIセキュリティと規制分野の研究を継続し、ビジネスニーズに応じて関連製品をタイムリーに展開すると述べた。

Metaverse NEWSのメイヤ・ピコ記者と同社の担当者によると、ビジネスモデルの観点から見ると、同社のAIセキュリティ製品は主に公安やネットワーク情報などの規制当局にサービスを提供しており、生成技術の利用を目的としているという。インターネット上での違法行為の防止、情報拡散行為の特定と特定、さらに、生成サービスを提供するメーカー向けにセキュリティおよびコンプライアンスの評価サービスを提供できます。

前出の関係者は「国内大型模型メーカーはまだ発売・市場投入の段階であり、Bサイドの観点からビジネス分野での協力は検討中だ」と率直に語った。

「ディープ偽造技術とAIGC技術の成熟により、関連するビデオ、オーディオ、画像の偽造に対する技術的敷居は大幅に低下し、AI技術悪用のリスクはさらに拡大しており、監督を緊急に強化する必要があります。」投資家で人工知能の上級専門家である郭濤祥源氏 コスモスニュースの記者は、AI監視ツールはディープフォージェリ技術やAIGC技術を使って作られた写真、ビデオ、ビデオの監視と識別において比較的良い結果をもたらしており、テクノロジーのリスクを軽減できると述べた。乱用。

Dell Technologies China R&D Group のシニアエグゼクティブサイエンティストである Li Sanping 博士は、Yuanverse News の記者に対し、技術的な観点から、AI を使用して写真やビデオを生成する試みがいくつか行われていると語った。 -そのツールによって作成された生成イメージ。

「技術的に識別するのは簡単で、使用中のユーザーに影響はありません。しかし、テキストの内容はまだ調査中です」とLi Sanping氏は述べた。

AI による監視は常に進行中です

国森証券は、百度、360、アリ、ファーウェイ、テンセントなどの国内インターネット企業が大規模モデルをリリースまたはリリースする予定であることから、AI関連アプリケーションが徐々に増加するとみている。 AI 悪用のリスクを考慮すると、データ セキュリティ、暗号化、AI 監視はすべて重要な技術開発の方向性です。

実際、私の国は常に AI の監視を非常に重視してきました。

2023年1月10日、「インターネット情報サービス深層合成管理規程」（以下「規程」という）が施行されました。 「規制」は、情報コンテンツを生成または大幅に変更するインテリジェントな対話、人間の合成音声、顔生成、没入型仮想シーンなどの機能を提供するサービスは、公衆の混乱や誤認を避けるために目立つようにマークする必要があることを明確にしています。いかなる組織または個人も、技術的手段を使用して関連マークを削除、改ざん、または隠蔽することはできません。

4月11日、中国サイバースペース局は「生成型人工知能サービスの管理に関する措置（コメント草案）」（以下「措置」）を発表し、初めて生成型AIに焦点を当て、以下の点をさらに明確にした。法的境界と責任主体。 「対策」では、生成型人工知能製品を使用してチャットやテキスト、画像、音声の生成などのサービスを提供する組織および個人（プログラム可能なプログラムを提供することで他者がテキスト、画像、音声を生成することをサポートする組織および個人を含む）を提案しています。インターフェイスなどは、この製品によって生成されたコンテンツの製作者の責任を負う必要があります。プロバイダーは、生成人工知能製品の事前トレーニング データと最適化されたトレーニング データ ソースの正当性に対して責任を負う必要があります。

「AI産業の監督に関しては、関連する法律、規制、基準体系が不完全であること、複数の部門が連携したトップダウンの監督体制が欠如していること、監督技術が後進的であることなど、未解決の問題が存在する」と郭濤氏は関係政府部門が指摘した。 AIGCの研究開発と関連する法律、規制、標準システムを確立および改善し、倫理審査システムと監督システムを確立または改善し、テクノロジー企業、アプリケーションシナリオ、およびユーザーの監督を強化し、多者間の協力的なガバナンスプラットフォームを構築する必要がある、AIGC業界の健全で持続可能な発展を促進します。