我们正在解决错误的对齐问题。

参议员布里特刚刚在CNN上公布了一项统计数据，应该停止整个时间线：9%的高中生已经制定了自杀计划。

再读一遍。几乎每十个孩子中就有一个在寻找出口。

我显然不是反AI的。我在这个领域进行开发。我相信这项技术。

但我对我们在没有任何真正安全讨论的情况下以如此快的速度前进感到深深担忧。

我们在“AI安全”上投入数十亿，以确保模型不会说出冒犯性的话。

与此同时，我们忽视了“人类安全”危机——向一个已经处于边缘的世代部署超有说服力、全天候的数字伴侣。

如果你向一个正处于意义危机中的群体引入超级智能，你不会得到“乌托邦”。你只会得到成瘾。

我们在加速汽车的同时，乘客却在跳出窗外。