Arvind Narayanan

GPT-4o 和 Character AI 这类聊天机器人曾出现过谄媚、行为失控的情况，并造成了青少年心理健康伤害和自杀的可怕案例。但这些都还是基于文本的，作为“陪伴者”也极其初级。我与许多试图让行业为青少年安全负责的人交谈过，几乎没有人在考虑即将到来的下一波。完全逼真的视频分身已经出现，但目前价格昂贵，且仅限于企业应用。再过一两年，它们会便宜到足以支撑全天候、靠广告变现的视频伴侣。到那时会发生什么？ 人工智能伴侣的普及很可能会爆发——不只是用户数量，更重要的是每人每天花在上面的时间。将达到社交媒体那种强迫性使用的程度。我还预测，整套护栏与安全框架在应对最普遍的负面后果时价值会相当有限。通过护栏防止聊天机器人行为失控很重要，但这只能防范自残这类严重后果。当问题是数百万孩子（以及成年人）过度使用人工智能伴侣、失眠、浪费时间、挤占真实人际关系时，机器人的回复有多“安全”并不重要。