Nguồn hình ảnh: Được tạo bởi các công cụ Unbounded AI
Sự bùng nổ AI do OpenAI kích hoạt vẫn đang tiếp tục, nhưng trong khi các ứng dụng liên quan đến AIGC cải thiện hiệu quả sản xuất, chúng cũng bị tội phạm sử dụng để tạo nội dung sai lệch và phá vỡ hoạt động bình thường của xã hội.
Báo cáo nghiên cứu của Guosen Securities chỉ ra rằng các ứng dụng AI trong nước đang dần được mở rộng và các ứng dụng liên quan đến AI sẽ dần tăng lên. Trước nguy cơ lạm dụng AI, bảo mật dữ liệu, mật mã và giám sát AI đều là những hướng phát triển công nghệ quan trọng.
Vài ngày trước, Meiya Pico đã phát hành một sản phẩm mới có thể phát hiện và nhận dạng video, hình ảnh và văn bản do AI tạo ra. Trên thực tế, các bộ phận liên quan ở nước ta đã và đang khám phá sự giám sát pháp lý đối với các sản phẩm và ứng dụng của AIGC. Các chuyên gia liên quan cũng đề xuất rằng chỉ bằng cách thiết lập và hoàn thiện hệ thống pháp luật liên quan, chúng ta mới có thể thúc đẩy cơ bản sự phát triển lành mạnh và bền vững của ngành AIGC của nước mình.
Meiya Pico phát hành các sản phẩm quản lý AI
Vào ngày 15 tháng 5, Meiya Pico đã phát hành một bảng ghi lại các hoạt động quan hệ nhà đầu tư.
Bảng hồ sơ cho thấy về các sản phẩm giám sát AI, công ty đã phát hành máy trạm xác thực hình ảnh video AI-3300 "Huiyan", có thể giám sát và xác định hình ảnh video được tổng hợp và giả mạo sâu cũng như hình ảnh video do AIGC tạo. Nền tảng phát hiện AIGC do công ty khởi chạy hỗ trợ phát hiện và nhận dạng văn bản do AIGC tạo.
Đồng thời, Meiya Pico cho biết các công ty tiếp theo sẽ tiếp tục tiến hành nghiên cứu về các lĩnh vực quản lý và bảo mật AI, bao gồm cả AI chống sinh sản, đồng thời triển khai các sản phẩm liên quan kịp thời theo nhu cầu kinh doanh.
Một phóng viên của Metaverse NEWS có tên là Meiya Pico, đồng thời là người phụ trách công ty cho biết, từ góc độ mô hình kinh doanh, các sản phẩm bảo mật AI của công ty chủ yếu phục vụ các cơ quan quản lý như an ninh công cộng và thông tin mạng, nhằm mục đích sử dụng công nghệ sinh sản. trên Internet để tiến hành các hoạt động bất hợp pháp.Nhận dạng và nhận dạng hành vi phổ biến thông tin, ngoài ra, các dịch vụ đánh giá tuân thủ và bảo mật có thể được cung cấp cho các nhà sản xuất cung cấp dịch vụ chung.
Người đầu mối nói trên thẳng thắn cho biết, các nhà sản xuất mô hình cỡ lớn trong nước vẫn đang trong giai đoạn phát hành và ứng dụng trên thị trường, dưới góc độ của bên B, việc hợp tác trong lĩnh vực kinh doanh vẫn đang được thảo luận.
"Với sự trưởng thành của công nghệ làm giả sâu và công nghệ AIGC, ngưỡng công nghệ để làm giả video, âm thanh và hình ảnh liên quan đã giảm đi rất nhiều, đồng thời nguy cơ lạm dụng công nghệ AI ngày càng mở rộng và cần phải khẩn trương tăng cường giám sát." Angel nhà đầu tư kiêm chuyên gia trí tuệ nhân tạo cấp cao Guo Tao Xiang Yuan Một phóng viên của Cosmos News cho biết các công cụ giám sát AI cho kết quả tương đối tốt trong việc theo dõi và xác định hình ảnh, video và video được tạo bằng công nghệ giả mạo sâu và công nghệ AIGC, có thể giảm rủi ro công nghệ lạm dụng.
Tiến sĩ Li Sanping, nhà khoa học điều hành cấp cao của Tập đoàn R&D Dell Technologies Trung Quốc, nói với phóng viên Yuanverse News rằng từ quan điểm kỹ thuật, đã có một số nỗ lực tạo ra hình ảnh và video bằng AI. Ví dụ: Google sẽ đánh dấu mọi AI -hình ảnh được tạo ra bởi các công cụ của nó.
"Về mặt kỹ thuật, nó rất dễ xác định và không ảnh hưởng đến người dùng đang sử dụng. Tuy nhiên, nội dung của văn bản vẫn đang được khám phá", Li Sanping cho biết.
Giám sát AI luôn sẵn sàng
Guosen Securities tin rằng khi các công ty Internet trong nước như Baidu, 360, Ali, Huawei và Tencent phát hành hoặc có kế hoạch phát hành các mô hình quy mô lớn, các ứng dụng liên quan đến AI sẽ dần tăng lên. Trước nguy cơ lạm dụng AI, bảo mật dữ liệu, mật mã và giám sát AI đều là những hướng phát triển công nghệ quan trọng.
Trên thực tế, đất nước tôi luôn coi trọng việc giám sát AI.
Vào ngày 10 tháng 1 năm 2023, "Quy định về quản lý tổng hợp sâu các dịch vụ thông tin trên Internet" (sau đây gọi là "Quy định") có hiệu lực. "Quy định" làm rõ rằng các dịch vụ cung cấp các chức năng như đối thoại thông minh, giọng nói tổng hợp của con người, tạo khuôn mặt và cảnh ảo nhập vai tạo ra hoặc thay đổi đáng kể nội dung thông tin phải được đánh dấu nổi bật để tránh nhầm lẫn hoặc nhận dạng sai công khai. Không tổ chức, cá nhân nào được sử dụng các phương tiện kỹ thuật để xóa, giả mạo, che giấu các dấu hiệu liên quan.
Vào ngày 11 tháng 4, Cục Quản lý không gian mạng Trung Quốc đã ban hành "Các biện pháp quản lý các dịch vụ trí tuệ nhân tạo sáng tạo (Dự thảo để lấy ý kiến)" (gọi tắt là "Các biện pháp"), lần đầu tiên tập trung vào AI sáng tạo và làm rõ hơn về ranh giới pháp lý và các chủ thể chịu trách nhiệm. "Các biện pháp" đề xuất rằng các tổ chức và cá nhân sử dụng các sản phẩm trí tuệ nhân tạo tổng hợp để cung cấp các dịch vụ như trò chuyện và tạo văn bản, hình ảnh và âm thanh, bao gồm cả các tổ chức và cá nhân hỗ trợ người khác tự tạo văn bản, hình ảnh và âm thanh bằng cách cung cấp các sản phẩm có thể lập trình được. giao diện, v.v., nên Đảm nhận trách nhiệm của nhà sản xuất nội dung do sản phẩm này tạo ra. Các nhà cung cấp phải chịu trách nhiệm về tính hợp pháp của dữ liệu trước khi đào tạo và các nguồn dữ liệu đào tạo được tối ưu hóa của các sản phẩm trí tuệ nhân tạo tổng quát.
"Về mặt giám sát ngành AI, có những vấn đề nổi cộm như luật, quy định và hệ thống tiêu chuẩn liên quan chưa hoàn chỉnh, thiếu hệ thống giám sát từ trên xuống được phối hợp bởi nhiều bộ phận và công nghệ giám sát lạc hậu." Guo Tao chỉ ra rằng các cơ quan chính phủ có liên quan cần thiết lập và cải thiện R&D của AIGC và Áp dụng các luật, quy định và hệ thống tiêu chuẩn có liên quan, thiết lập hoặc cải thiện hệ thống giám sát và đánh giá đạo đức, tăng cường giám sát các công ty công nghệ, kịch bản ứng dụng và người dùng, xây dựng nền tảng quản trị hợp tác đa bên , và thúc đẩy sự phát triển lành mạnh và bền vững của ngành AIGC.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Làm thế nào để điều chỉnh AI? Chuyên gia kiến nghị hoàn thiện hệ thống đảm bảo pháp lý, tiêu chuẩn
Tác giả: Xu Cihao
Nguồn: Financial Associated Press
Sự bùng nổ AI do OpenAI kích hoạt vẫn đang tiếp tục, nhưng trong khi các ứng dụng liên quan đến AIGC cải thiện hiệu quả sản xuất, chúng cũng bị tội phạm sử dụng để tạo nội dung sai lệch và phá vỡ hoạt động bình thường của xã hội.
Báo cáo nghiên cứu của Guosen Securities chỉ ra rằng các ứng dụng AI trong nước đang dần được mở rộng và các ứng dụng liên quan đến AI sẽ dần tăng lên. Trước nguy cơ lạm dụng AI, bảo mật dữ liệu, mật mã và giám sát AI đều là những hướng phát triển công nghệ quan trọng.
Vài ngày trước, Meiya Pico đã phát hành một sản phẩm mới có thể phát hiện và nhận dạng video, hình ảnh và văn bản do AI tạo ra. Trên thực tế, các bộ phận liên quan ở nước ta đã và đang khám phá sự giám sát pháp lý đối với các sản phẩm và ứng dụng của AIGC. Các chuyên gia liên quan cũng đề xuất rằng chỉ bằng cách thiết lập và hoàn thiện hệ thống pháp luật liên quan, chúng ta mới có thể thúc đẩy cơ bản sự phát triển lành mạnh và bền vững của ngành AIGC của nước mình.
Meiya Pico phát hành các sản phẩm quản lý AI
Vào ngày 15 tháng 5, Meiya Pico đã phát hành một bảng ghi lại các hoạt động quan hệ nhà đầu tư.
Bảng hồ sơ cho thấy về các sản phẩm giám sát AI, công ty đã phát hành máy trạm xác thực hình ảnh video AI-3300 "Huiyan", có thể giám sát và xác định hình ảnh video được tổng hợp và giả mạo sâu cũng như hình ảnh video do AIGC tạo. Nền tảng phát hiện AIGC do công ty khởi chạy hỗ trợ phát hiện và nhận dạng văn bản do AIGC tạo.
Đồng thời, Meiya Pico cho biết các công ty tiếp theo sẽ tiếp tục tiến hành nghiên cứu về các lĩnh vực quản lý và bảo mật AI, bao gồm cả AI chống sinh sản, đồng thời triển khai các sản phẩm liên quan kịp thời theo nhu cầu kinh doanh.
Một phóng viên của Metaverse NEWS có tên là Meiya Pico, đồng thời là người phụ trách công ty cho biết, từ góc độ mô hình kinh doanh, các sản phẩm bảo mật AI của công ty chủ yếu phục vụ các cơ quan quản lý như an ninh công cộng và thông tin mạng, nhằm mục đích sử dụng công nghệ sinh sản. trên Internet để tiến hành các hoạt động bất hợp pháp.Nhận dạng và nhận dạng hành vi phổ biến thông tin, ngoài ra, các dịch vụ đánh giá tuân thủ và bảo mật có thể được cung cấp cho các nhà sản xuất cung cấp dịch vụ chung.
Người đầu mối nói trên thẳng thắn cho biết, các nhà sản xuất mô hình cỡ lớn trong nước vẫn đang trong giai đoạn phát hành và ứng dụng trên thị trường, dưới góc độ của bên B, việc hợp tác trong lĩnh vực kinh doanh vẫn đang được thảo luận.
"Với sự trưởng thành của công nghệ làm giả sâu và công nghệ AIGC, ngưỡng công nghệ để làm giả video, âm thanh và hình ảnh liên quan đã giảm đi rất nhiều, đồng thời nguy cơ lạm dụng công nghệ AI ngày càng mở rộng và cần phải khẩn trương tăng cường giám sát." Angel nhà đầu tư kiêm chuyên gia trí tuệ nhân tạo cấp cao Guo Tao Xiang Yuan Một phóng viên của Cosmos News cho biết các công cụ giám sát AI cho kết quả tương đối tốt trong việc theo dõi và xác định hình ảnh, video và video được tạo bằng công nghệ giả mạo sâu và công nghệ AIGC, có thể giảm rủi ro công nghệ lạm dụng.
Tiến sĩ Li Sanping, nhà khoa học điều hành cấp cao của Tập đoàn R&D Dell Technologies Trung Quốc, nói với phóng viên Yuanverse News rằng từ quan điểm kỹ thuật, đã có một số nỗ lực tạo ra hình ảnh và video bằng AI. Ví dụ: Google sẽ đánh dấu mọi AI -hình ảnh được tạo ra bởi các công cụ của nó.
"Về mặt kỹ thuật, nó rất dễ xác định và không ảnh hưởng đến người dùng đang sử dụng. Tuy nhiên, nội dung của văn bản vẫn đang được khám phá", Li Sanping cho biết.
Giám sát AI luôn sẵn sàng
Guosen Securities tin rằng khi các công ty Internet trong nước như Baidu, 360, Ali, Huawei và Tencent phát hành hoặc có kế hoạch phát hành các mô hình quy mô lớn, các ứng dụng liên quan đến AI sẽ dần tăng lên. Trước nguy cơ lạm dụng AI, bảo mật dữ liệu, mật mã và giám sát AI đều là những hướng phát triển công nghệ quan trọng.
Trên thực tế, đất nước tôi luôn coi trọng việc giám sát AI.
Vào ngày 10 tháng 1 năm 2023, "Quy định về quản lý tổng hợp sâu các dịch vụ thông tin trên Internet" (sau đây gọi là "Quy định") có hiệu lực. "Quy định" làm rõ rằng các dịch vụ cung cấp các chức năng như đối thoại thông minh, giọng nói tổng hợp của con người, tạo khuôn mặt và cảnh ảo nhập vai tạo ra hoặc thay đổi đáng kể nội dung thông tin phải được đánh dấu nổi bật để tránh nhầm lẫn hoặc nhận dạng sai công khai. Không tổ chức, cá nhân nào được sử dụng các phương tiện kỹ thuật để xóa, giả mạo, che giấu các dấu hiệu liên quan.
Vào ngày 11 tháng 4, Cục Quản lý không gian mạng Trung Quốc đã ban hành "Các biện pháp quản lý các dịch vụ trí tuệ nhân tạo sáng tạo (Dự thảo để lấy ý kiến)" (gọi tắt là "Các biện pháp"), lần đầu tiên tập trung vào AI sáng tạo và làm rõ hơn về ranh giới pháp lý và các chủ thể chịu trách nhiệm. "Các biện pháp" đề xuất rằng các tổ chức và cá nhân sử dụng các sản phẩm trí tuệ nhân tạo tổng hợp để cung cấp các dịch vụ như trò chuyện và tạo văn bản, hình ảnh và âm thanh, bao gồm cả các tổ chức và cá nhân hỗ trợ người khác tự tạo văn bản, hình ảnh và âm thanh bằng cách cung cấp các sản phẩm có thể lập trình được. giao diện, v.v., nên Đảm nhận trách nhiệm của nhà sản xuất nội dung do sản phẩm này tạo ra. Các nhà cung cấp phải chịu trách nhiệm về tính hợp pháp của dữ liệu trước khi đào tạo và các nguồn dữ liệu đào tạo được tối ưu hóa của các sản phẩm trí tuệ nhân tạo tổng quát.
"Về mặt giám sát ngành AI, có những vấn đề nổi cộm như luật, quy định và hệ thống tiêu chuẩn liên quan chưa hoàn chỉnh, thiếu hệ thống giám sát từ trên xuống được phối hợp bởi nhiều bộ phận và công nghệ giám sát lạc hậu." Guo Tao chỉ ra rằng các cơ quan chính phủ có liên quan cần thiết lập và cải thiện R&D của AIGC và Áp dụng các luật, quy định và hệ thống tiêu chuẩn có liên quan, thiết lập hoặc cải thiện hệ thống giám sát và đánh giá đạo đức, tăng cường giám sát các công ty công nghệ, kịch bản ứng dụng và người dùng, xây dựng nền tảng quản trị hợp tác đa bên , và thúc đẩy sự phát triển lành mạnh và bền vững của ngành AIGC.