$PI Pi的人工智能基礎設施:由100萬人工組成的分佈式團隊完成了5.26億項任務
人工智能發展迅速,但構建可靠系統的難點仍然在於人為因素。對於那些致力於改進模型、優化推理質量、或擴大數據標註與評估規模的公司來說,人類的參與依然是不可或缺的。
構建出色的模型並非僅僅依賴於更強大的計算能力:人工智能需要人類的參與來優化輸出結果、確定質量標準、驗證結果的準確性、消除歧義,從而確保這些系統真正能為人所用。
在那些條件明確、範圍有限的場景中,非人類輔助的優化方法和自動化訓練手段確實能發揮巨大作用,有助於提升優化效率。不過,它們也存在諸多局限性:它們往往只能優化某些替代指標,而無法真正反映人類的真實偏好;此外,這類方法容易受到獎勵機制被操縱的影響,同時也難以充分把握各種細微差別、各種行為的合理性、不断變化的規範以及人們在現實世界中的判斷標準。
正因如此,無論自動化技術如何發展,人類的參與對於人工智能的不断完善來說仍然是不可或缺的。
人工智能中人類輸入所帶來的實際挑戰
對人工干預的依賴給人工智能公司帶來了巨大的運營挑戰。
規模/程度
人工智能公司需要大量來自人類的輸入數據。在機器人技術和物理人工智能等新興領域,這一點尤為重要。因為未來的突破很可能取決於那些基於海量人類生成的數據而訓練出來的模型——這些數據涉及物理環境以及人類在現實世界中的各種互動行為。正如互聯網規模的數據是推動ChatGP