AI「意向经济」暗藏危险 恐成操控工具

英国剑桥大学研究人员在今天发表的研究中警告,对话式人工智慧(AI)工具可能很快就会在名为「意向经济」的新商业领域「暗暗影响」使用者的决策。

法新社报导,这项研究认为,「数位意向讯号」潜在「利润丰厚但令人不安」的市场正在兴起,可能会在不久的将来,影响从购买电影票到投票给政治候选人的一切。 研究还说,我们对聊天机器人、数位导师和其他所谓「拟人化」人工智慧代理愈来愈熟悉,正在协助实现这一系列新的「说服性技术」。

两名研究共同执笔人指出,人工智慧将把我们的线上习惯知识,以及对用户了解、预测其愿望能力的不断成长结合起来,建立「新的信任和理解水准」。

来自剑桥大学李佛修姆未来智慧中心(LeverhulmeCentre for the Future of Intelligence, CFI)的两名学者在「哈佛资料科学评论」(Harvard Data ScienceReview)发表研究指出,如果不加以约束,可能导致「工业规模的社会操纵」。

他们在研究中,描述这个被称为「意向经济」的新兴领域将如何分析用户的关注点以及沟通方式,并将它们与其行为模式和选择连结起来。

    最近关注
    热点内容