硅谷加大力度警告人工智能带来的生存风险

多年来，硅谷的一些领军人物一直警告说，人工智能可能会对人类构成生存威胁，尽管他们仍在大力推进这项技术的发展。本周，Anthropic公司一位研究员的高调辞职将这一讨论推向了主流视野。
员工雅各布·考克森（Jacob Coxon）辞职后，指责他的前雇主——Anthropic和OpenAI——“竞相开发超级人工智能”，是在“拿我们的生命做赌注”。考克森表示，开发人工智能的人认为它“可能在本十年末杀死我们所有人”，这一观点随后也得到了公司其他员工的在线回应。一位Anthropic的研究员表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。
科克森在X平台上的帖子浏览量超过1亿次，引发了从参议员伯尼·桑德斯到流行歌手雪莉·克罗等各界人士的广泛关注，他们都呼吁人类在人工智能主宰人类之前掌握其技术。他的辞职信也得到了多家人工智能公司员工的支持，其中包括几位前同事。
这位此前名不见经传的员工的言论引发如此广泛的关注，反映了公众对人工智能持续存在的悲观情绪——尤其是在美国——以及硅谷内部随着人工智能技术的进步和其行为的不可预测性而日益增长的焦虑。
近日，OpenAI和英伟达的高管们宣称，一个新的“AGI时代”已经到来，他们指的是一种更强大的人工智能形式，即通用人工智能，它能够在大多数任务中与人类匹敌甚至超越人类。然而，这个概念的定义尚不明确，且引发了激烈的争论。
但在科技行业内部，人们普遍担忧人工智能正接近能够自我改进并可能超出我们控制的临界点。“我现在认为，人工智能能力的快速提升存在着巨大的风险，很可能在短期内导致灾难性的、不可逆转的控制权丧失，”人工智能安全研究员、美国政府顾问保罗·克里斯蒂亚诺（Paul Christiano）说道，他本周被任命为OpenAI非营利组织的董事会成员。
“我认为，包括OpenAI在内的整个人工智能行业目前还没有走上将这种风险降低到可接受水平的道路。”
7月下旬，超过1000名来自各大人工智能公司的员工签署了一份请愿书，呼吁建立一种机制来减缓人工智能的发展速度。
近几个月来，一些从事人工智能安全工作的员工已经从主要实验室辞职。OpenAI的首席科学家雅库布·帕乔基（Jakub Pachocki）表示，“没有人为机器智能持续快速增长的后果做好准备。”虽然这些警告变得更加紧迫 #人工智能 #商业 #科技 #美国