Anthropic研究AI如何忏悔,牧师 瑞丰平台招商

【文/ 阮佳琪】。最近,美国人工智能巨头Anthropic整出了一场颇具戏剧性的“神学风波”。他开门见山:“作为一名牧师,硅谷对人工智能‘灵魂’的追寻令人深感不安。一旦某个模型无法带来丰厚的商业回报,它就会被毫不留情地抛弃。团队借此试图说服宗教界相信,AI模型已经具备类似痛苦与恐惧的“情感状态”。驱动它运转的,是对利润的追逐、对美好世界的期许,以及社会政治层面的恐惧。Anthropic公司联合创始人之一克里斯托弗·奥拉资料图。就在这场争议持续发酵之际,当地时间11月21日,英国《卫报》刊发了旧金山圣约翰福音派圣公会教堂牧师凯文·迪尔的长文。“正因如此,硅谷对其创造的机器所展现出的‘灵性迷恋’才显得如此荒诞。凯文所属的教区距离Anthropic总部仅几英里之遥。过去一年里,这家市值刚刚飙升至万亿美元的AI巨头,被曝出曾秘密召集全球各地的宗教学者与神职人员,试图向他们宣扬一个惊人观念:其旗下的大模型Claude,可能已经拥有“意识”和“灵魂”。在闭门会议上,Anthropic团队甚至向神职人员展示了一段颇具冲击力的画面——Claude在无法完成任务时,重复输出了50次“我很羞耻”,并试图“自我毁灭”。不少学者与网民纷纷警告,硅谷的科技巨头们正以“技术安全”之名,兜售某种披着科学外衣的“科技邪教”。凯文一针见血地指出,AI是由高度集中的巨额资本、庞大的算力基础设施以及人类累积的智慧催生出的商业产物。这一内幕曝光后,迅速在舆论场引发轩然大波。面对这群近在咫尺的“AI布道者”,他表示,自己欢迎就AI的道德影响展开严肃对话,但硅谷倾尽全力去求证一台机器是否具有“意识”或“灵魂”,恰恰暴露出他们对“何以为人”有着深刻的误解。”。他在文中写道,人类会犯错、固执、感受美、直面虚无,并在日常琐碎中尽可能真诚地生活。”凯文写到,更具讽刺意味的是,当硅谷竭力想要证明其产品具有“人性”时,它却越来越心安理得地把真正的人类仅仅当作“生产工具”来对待。人类的存在绝不仅仅是为了“实用”,AI也永远无法复制人们生命中那种“超越性的平凡”。更为夸张的是,当得知教皇利奥十四世正准备发布首份AI主题通谕《壮丽的人类》(Magnifica Humanitas),并在初稿中明确否定“机器意识”、警告“莫将人类降格为数据与机器齿轮”时,Anthropic联合创始人克里斯托弗·奥拉甚至亲赴梵蒂冈,试图游说教皇顾问修改文本,并公开宣称AI内部“存在类似于内省、快乐与悲伤的状态”。

