มนัสนํารุ่งอรุณของ AGI และการรักษาความปลอดภัย AI ก็ควรค่าแก่การไตร่ตรองเช่นกัน

มนัสได้คะแนน SOTA (State-of-the-Art) ในเกณฑ์มาตรฐาน GAIA ซึ่งแสดงให้เห็นว่าประสิทธิภาพเหนือกว่าโมเดลขนาดใหญ่ของ Open AI ในระดับเดียวกัน กล่าวอีกนัยหนึ่งคือสามารถทํางานที่ซับซ้อนได้อย่างอิสระเช่นการเจรจาธุรกิจข้ามพรมแดนซึ่งเกี่ยวข้องกับการทําลายเงื่อนไขสัญญาการคาดการณ์กลยุทธ์การสร้างโซลูชันและแม้แต่การประสานงานทีมกฎหมายและการเงิน เมื่อเทียบกับระบบดั้งเดิม Manus มีข้อได้เปรียบของความสามารถในการถอดชิ้นส่วนแบบไดนามิกความสามารถในการให้เหตุผลข้ามกิริยาและความสามารถในการเรียนรู้การเพิ่มหน่วยความจํา สามารถแบ่งงานขนาดใหญ่ออกเป็นงานย่อยที่ปฏิบัติการได้หลายร้อยงานประมวลผลข้อมูลหลายประเภทในเวลาเดียวกันและใช้การเรียนรู้แบบเสริมกําลังเพื่อปรับปรุงประสิทธิภาพการตัดสินใจอย่างต่อเนื่องและลดอัตราข้อผิดพลาด

! มนัสนํารุ่งอรุณของ AGI ความปลอดภัยของ AI ก็ควรค่าแก่การไตร่ตรองเช่นกัน

นอกเหนือจากการประหลาดใจกับการพัฒนาอย่างรวดเร็วของเทคโนโลยีแล้ว Manus ยังได้จุดประกายความขัดแย้งในแวดวงเกี่ยวกับเส้นทางวิวัฒนาการของ AI อีกครั้ง: AGI ครองโลกในอนาคตหรือ MAS จะมีอํานาจเหนือกว่าหรือไม่?

สิ่งนี้เริ่มต้นด้วยปรัชญาการออกแบบของ Manus ซึ่งแสดงถึงความเป็นไปได้สองประการ:

หนึ่งคือเส้นทาง AGI ด้วยการปรับปรุงระดับสติปัญญาของแต่ละบุคคลอย่างต่อเนื่องมันใกล้เคียงกับความสามารถในการตัดสินใจที่ครอบคลุมของมนุษย์

นอกจากนี้ยังมีเส้นทาง MAS ในฐานะผู้ประสานงานระดับสูงสั่งให้ตัวแทนแนวตั้งหลายพันคนทํางานร่วมกัน

บนพื้นผิวเรากําลังพูดถึงเส้นทางที่แตกต่างกัน แต่ในความเป็นจริงเรากําลังพูดถึงความขัดแย้งพื้นฐานของการพัฒนา AI: ประสิทธิภาพและความปลอดภัยควรมีความสมดุลอย่างไร? ยิ่งสติปัญญาเสาหินอยู่ใกล้ AGI มากเท่าไหร่ความเสี่ยงของการตัดสินใจกล่องดําก็จะยิ่งสูงขึ้นเท่านั้น แม้ว่าการทํางานร่วมกันแบบหลายตัวแทนสามารถกระจายความเสี่ยงได้ แต่ก็อาจพลาดหน้าต่างการตัดสินใจที่สําคัญเนื่องจากความล่าช้าในการสื่อสาร

วิวัฒนาการของมนัสได้ขยายความเสี่ยงโดยธรรมชาติของการพัฒนา AI อย่างมองไม่เห็น ตัวอย่างเช่นหลุมดําความเป็นส่วนตัวของข้อมูล: ในสถานการณ์ทางการแพทย์มนัสต้องการการเข้าถึงข้อมูลจีโนมของผู้ป่วยแบบเรียลไทม์ ในระหว่างการเจรจาทางการเงินอาจสัมผัสกับข้อมูลทางการเงินที่ไม่เปิดเผยของบริษัท ตัวอย่างเช่นกับดักอคติอัลกอริทึมในการเจรจาจ้างมนัสให้คําแนะนําเงินเดือนต่ํากว่าค่าเฉลี่ยแก่ผู้สมัครของเชื้อชาติใดเชื้อชาติหนึ่ง เมื่อตรวจสอบสัญญาทางกฎหมายอัตราการตัดสินที่ผิดพลาดของเงื่อนไขอุตสาหกรรมที่เกิดขึ้นใหม่เกือบครึ่งหนึ่ง อีกตัวอย่างหนึ่งคือช่องโหว่การโจมตีของฝ่ายตรงข้ามซึ่งแฮกเกอร์ฝังความถี่เสียงเฉพาะเพื่อให้มนัสสามารถตัดสินช่วงข้อเสนอของฝ่ายตรงข้ามผิดพลาดในระหว่างการเจรจา

เราต้องเผชิญกับจุดเจ็บปวดที่น่ากลัวสําหรับระบบ AI: ยิ่งระบบฉลาดเท่าไหร่พื้นผิวการโจมตีก็จะยิ่งกว้างขึ้นเท่านั้น

อย่างไรก็ตามความปลอดภัยเป็นคําที่ได้รับการกล่าวถึงอย่างมากใน web3 และมีวิธีการเข้ารหัสที่หลากหลายซึ่งได้มาจากเฟรมเวิร์กของสามเหลี่ยมที่เป็นไปไม่ได้ของ V (เครือข่ายบล็อกเชนไม่สามารถบรรลุความปลอดภัยการกระจายอํานาจและความสามารถในการปรับขนาดได้ในเวลาเดียวกัน):

แนวคิดหลักของ Zero Trust Security Model :* คือ "อย่าไว้ใจใครตรวจสอบเสมอ" นั่นคืออุปกรณ์ไม่ควรเชื่อถือได้โดยค่าเริ่มต้นไม่ว่าจะอยู่ในเครือข่ายภายในหรือไม่ก็ตามโมเดลนี้เน้นการรับรองความถูกต้องและการอนุญาตที่เข้มงวดสําหรับคําขอเข้าถึงแต่ละรายการเพื่อความปลอดภัยของระบบ ข้อมูลประจําตัวแบบกระจายอํานาจ (DID): DID คือชุดของมาตรฐานตัวระบุที่ช่วยให้สามารถระบุเอนทิตีในลักษณะที่ตรวจสอบได้และต่อเนื่องโดยไม่ต้องใช้รีจิสทรีแบบรวมศูนย์สิ่งนี้ทําให้เกิดรูปแบบใหม่ของข้อมูลประจําตัวดิจิทัลแบบกระจายอํานาจซึ่งมักถูกเปรียบเทียบกับอัตลักษณ์อธิปไตยของตนเองซึ่งเป็นส่วนสําคัญของ Web3 Fully Homomorphic Encryption (FHE) เป็นเทคนิคการเข้ารหัสขั้นสูงที่ช่วยให้การคํานวณโดยพลการสามารถดําเนินการกับข้อมูลที่เข้ารหัสโดยไม่ต้องถอดรหัสซึ่งหมายความว่าบุคคลที่สามสามารถทํางานบนข้อความเข้ารหัสและผลลัพธ์ที่ได้รับหลังจากการถอดรหัสจะเหมือนกับผลลัพธ์ของการดําเนินการเดียวกันในข้อความธรรมดาคุณลักษณะนี้มีความสําคัญสําหรับสถานการณ์ที่ต้องใช้การคํานวณโดยไม่เปิดเผยข้อมูลดิบ เช่น การประมวลผลแบบคลาวด์และการเอาท์ซอร์สข้อมูล

โมเดลการรักษาความปลอดภัยแบบ Zero Trust และ DIDs มีโครงการจํานวนหนึ่งในตลาดกระทิงหลายรอบ และพวกเขาประสบความสําเร็จหรือจมน้ําตายในคลื่นของการเข้ารหัส และเป็นวิธีการเข้ารหัสที่อายุน้อยที่สุด: การเข้ารหัสแบบ Homomorphic อย่างสมบูรณ์ (FHE) ยังเป็นฆาตกรรายใหญ่ในการแก้ปัญหาด้านความปลอดภัยในยุค AI การเข้ารหัสแบบ homomorphic อย่างสมบูรณ์ (FHE) เป็นเทคโนโลยีที่ช่วยให้การคํานวณเกิดขึ้นกับข้อมูลที่เข้ารหัส

จะแก้ไขได้อย่างไร?

ขั้นแรกในระดับข้อมูล ข้อมูลทั้งหมดที่ป้อนโดยผู้ใช้ (รวมถึงไบโอเมตริกซ์เสียง) จะถูกประมวลผลในสถานะที่เข้ารหัสและแม้แต่ Manus เองก็ไม่สามารถถอดรหัสข้อมูลต้นฉบับได้ ตัวอย่างเช่นในกรณีของการวินิจฉัยทางการแพทย์ข้อมูลจีโนมของผู้ป่วยจะถูกวิเคราะห์ในข้อความเข้ารหัสเพื่อหลีกเลี่ยงการรั่วไหลของข้อมูลทางชีวภาพ

ระดับอัลกอริทึม "การฝึกอบรมโมเดลการเข้ารหัส" ที่ทําได้ผ่าน FHE ทําให้นักพัฒนาไม่สามารถมองเข้าไปในเส้นทางการตัดสินใจของ AI ได้

ในระดับของการทํางานร่วมกัน การเข้ารหัสเกณฑ์ใช้สําหรับการสื่อสารของเอเจนต์หลายตัว และสามารถละเมิดโหนดเดียวได้โดยไม่ทําให้เกิดการรั่วไหลของข้อมูลทั่วโลก แม้ในการโจมตีห่วงโซ่อุปทานและการฝึกซ้อมการป้องกันผู้โจมตีจะแทรกซึมตัวแทนหลายคนเพื่อให้ได้มุมมองที่สมบูรณ์ของธุรกิจ

เนื่องจากข้อ จํากัด ทางเทคนิคความปลอดภัยของ web3 อาจไม่เกี่ยวข้องโดยตรงกับผู้ใช้ส่วนใหญ่ แต่เชื่อมโยงกับผลประโยชน์ทางอ้อมอย่างแยกไม่ออก

เปิดตัวบน Ethereum mainnet ในปี 2017 uPort อาจเป็นโครงการข้อมูลประจําตัวแบบกระจายอํานาจ (DID) โครงการแรกที่เปิดตัวบน mainnet ในแง่ของรูปแบบการรักษาความปลอดภัย Zero Trust NKN ได้เปิดตัวเครือข่ายหลักในปี 2019 Mind Network เป็นโครงการ FHE โครงการแรกที่เปิดตัวบนเมนเน็ต และเป็นผู้นําในการร่วมมือกับ ZAMA, Google, DeepSeek เป็นต้น

uPort และ NKN เป็นโครงการที่ฉันไม่เคยได้ยินมาก่อนและดูเหมือนว่าโครงการรักษาความปลอดภัยจะไม่ได้รับความสนใจจากนักเก็งกําไรดังนั้นเรามารอดูว่าเครือข่าย Mind สามารถหลบหนีคําสาปนี้และกลายเป็นผู้นําด้านความปลอดภัยได้หรือไม่

อนาคตอยู่ที่นี่ ยิ่ง AI เข้าใกล้ความฉลาดของมนุษย์มากเท่าไหร่ก็ยิ่งต้องการการป้องกันที่ไม่ใช่มนุษย์มากขึ้นเท่านั้น คุณค่าของ FHE ไม่เพียง แต่แก้ปัญหาในปัจจุบัน แต่ยังเพื่อปูทางไปสู่ยุคของ AI ที่แข็งแกร่ง บนถนนที่ทรยศต่อ AGI นี้ FHE ไม่ใช่ตัวเลือก แต่เป็นสิ่งจําเป็นสําหรับการอยู่รอด